Родился в 1932 году в Сталино (Украинская СССР). После окончания Донецкого медицинского института имени А.М. Горького работал врачом-хирургом, а позднее заведовал хирургическим отделением одной из ведущих больниц Украины.

С 1965 года жил и работал в Ленинграде. Большую часть профессиональной деятельности провел в Первом Ленинградском медицинском институте имени академика И. П. Павлова (сегодня Первый Санкт-Петербургский государственный медицинский университет имени академика И.П. Павлова).

Занимался исследованием возможностей использования масляных рентгеноконтрастных веществ в диагностике и лечении заболеваний печени.

В 1980 году по инициативе профессора Гранова был создан отдел рентгенохирургических методов диагностики и лечения, в котором были разработаны новые оригинальные технологии эндоваскулярных вмешательств в гепатологии, онкоурологии и онкогинекологии, получившие мировое признание (защищены патентами России и США).

В 1993 году профессор Гранов назначен директором института. В кризисные 90-годы благодаря энергии и выдающимся организационным способностям Гранова институт сохранил свой высокий статус и продолжал активную научную и клиническую деятельность.

Скончался в 2017 году в Петербурге после продолжительной болезни в возрасте 85 лет. Похоронен на Серафимовском кладбище.

19 июля 2017 года ФГБУ «Российский научный центр радиологии и хирургических технологий» Приказом Минздрава России № 180пк присвоено имя академика А.М. Гранова.

29 октября 2020 года на доме № 4 по Петровской набережной состоялась торжественная церемония открытия мемориальной доски знаменитому хирургу и ученому, академику Анатолию Гранову.