Юрий Толубеев родился в Санкт-Петербурге. В 1925 году окончил 103-ю Советскую единую трудовую школу I и II ступени (СЕТШ) Володарского района Ленинграда. В 1929 году окончил Ленинградский техникум сценических искусств.

В 1926—1927 годах служил в Экспериментальном театре В.Н. Всеволодского-Гернгросса, в 1927—1928.

— в Театре стажёров, в 1928—1932 — в Театре актёрского мастерства. В 1932—1933 годах выступал на сцене Самарского краевого драматического театра, в 1933—1935 — Ленинградского окружного театра Красной Армии, в 1935—1941 — Красного театра и образованного после его слияния с Театром рабочей молодёжи в 1936 году Театра имени Ленинского комсомола в Ленинграде. Затем более тридцати лет, с 1942 по 1978 год, выступал на сцене Театра драмы им. А.С. Пушкина (Александринский театр), в 1978—1979 годах служил в Большом драматическом театре.

В кино актёр начал сниматься в 1935 году, сыграв первую свою роль в фильме «Совершеннолетие». В числе его ранних работ заметное место занимают характеры цельных людей из народа, «рядовых революции», — например, в картинах «Выборгская сторона», «Человек с ружьём».

Лучшие свои роли, ставшие подлинно классическими, сыграл в экранизациях произведений классической литературы: Полоний в «Гамлете» и Городничий в «Ревизоре» стали повторением его театрального успеха. Во всем мире получил признание созданный актёром и Н.К. Черкасовым незабываемый дуэт Санчо Пансы и Дон Кихота в картине «Дон Кихот», поставленной Г.М. Козинцевым. Интересны также работы актёра в фильмах Н.Б. Бирмана — следователя Пилипенко в детективе «Авария» и техника Кузьмичёва в военной ленте «Хроника пикирующего бомбардировщика».