Александр Александрович Шевелёв родился в Калужской области, в крестьянской семье. В 50-е годы поэт приехал учиться в Ленинград, где окончил техникум, затем Ленинградский институт точной механики и оптики и начал работать в НИИ им. Крылова. В эти же годы появились и первые публикации его стихов. В 1960-е годы Шевелёв печатался в ленинградской молодежной газете «Смена», во многих других периодических изданиях. В 1973 году поэт окончил Высшие литературные курсы при Литературном институте им. А. М. Горького и, став профессиональным литератором, работал на ленинградской студии телевидения и студии документальных фильмов, на радио, заведующим литературной частью театра драмы им. А. С. Пушкина, в редакции журнала «Аврора». В 1970-80-е активно участвовал в общественной борьбе в защиту национальной культуры, оказывал поддержку соратникам и начинающим поэтам, способствовал выходу книг молодых литераторов, руководил творческими семинарами и литобъединениями.

«По призванию Шевелев был поэт-лирик, проникновенный пейзажист. Он чутко ощущал русскую природу, русскую душу, поэтизировал гармонию мира, будничность, простоту и тепло внешне непримечательного человеческого бытия, в котором все скоротечно, преходяще, все — неповторимо и важно», — писал о поэте Марк Любомудров. Поэзия А.А. Шевелёва привлекла внимание многих композиторов, которые отмечали музыкальность его произведений, мелодическую энергетику образов и создали на его стихи много песен и вокальных циклов.

Скончался Александр Александрович Шевелёв 30 октября 1993 года в Санкт-Петербурге.

На центральном здании студгородка ИТМО (Вяземский пер., дом 5-7), где в студенческие годы жил поэт, установлена памятная мемориальная доска. Также в честь поэта названа железнодорожная платформа «Шевелёво» на участке Санкт-Петербург — Выборг, где в дачном посёлке он жил около тридцати лет.