Родился 22 августа 1921 года в селе Мегра Белозерского уезда Череповецкой губернии (ныне Белозерский район Вологодской области). Отец, Сергей Николаевич, и мать, Екатерина Яковлевна, были сельскими учителями. Стихи писал с детства, стихотворение «Тыква» отмечено на Всесоюзном конкурсе стихотворений школьников в 1938 году. Оно было целиком приведено в статье К. И. Чуковского в газете «Правда», а также 4 строчки из него Чуковский поместил в своей книге «От двух до пяти».

Печатался в районной газете. В 1940 году поступил на исторический факультет Петрозаводского университета.

После начала Великой Отечественной войны вступил в истребительный батальон народного ополчения Белозерска, составленного из студентов-добровольцев. Спустя два месяца его направили в Челябинское танковое училище.

В 1946 году вышла вторая книга стихов Орлова «Зоров Илья», привлекшая внимание к поэту.

В 1954 году окончил Литературный институт им. А. М. Горького. C 1958 года входил в состав правления СП РСФСР. Заведовал отделом поэзии в журнале «Нева», был членом редколлегии журнала «Аврора».

В 1970 году его ввели в секретариат правления СП РСФСР, и он переехал в Москву. Позднее поэт стал членом комитета по присуждению Ленинских и Государственных премий. Книга «Костры», которая составлялась Орловым как итоговая, вышла уже после его смерти (1978).

Одно из наиболее известных стихотворений Орлова – «Его зарыли в шар земной» (1944) – написанное ясным, образным простым языком, напоминает читателю о павших. <…> Через много лет после окончания войны в лирике Орлова главной темой всё ещё оставалось пережитое на войне и воспоминания о погибших товарищах. В стихотворениях Орлова, написанных в последние годы сталинизма, не заняла прочного места расхожая тема послевоенного восстановления хозяйства, но зато он нарисовал портреты простых людей, рассказал об их судьбах, используя лирические образы, навеянные тишиной севера России — родины поэта. Орлов часто описывает в своих стихотворениях самые простые, будничные предметы. Многие стихи Орлова середины 60-х годов посвящены месту человека в истории.

Умер в Москве 7 октября 1977 года. Похоронен в Москве на Кунцевском кладбище.