Константин Иванович Рудаков родился 26 марта 1891 года в Санкт-Петербурге в творческой семье художника-декоратора Ивана Ивановича Рудакова и Елены Васильевны (Базилевны) Шванвиц. В 1894 году после скоропостижной смерти отца трёхлетний Константин попал в приют Человеколюбивого общества в Царском Селе. В 1903 году юноша поступил в Реальное училище A.П. Копылова на Большом проспекте Петроградской стороны, 31. Способности к рисованию проявились у будущего художника еще в школьные годы, он занимался в частных студиях у П. Чистякова и В. Савинского, в «Новой художественной мастерской» у М. Добужинского, Е. Лансере, Б. Кустодиева. Свое художественное образование Рудаков продолжил в Академии художеств, где учился в 1918–1922 годах на архитектурном и живописном факультетах.

С 1918 года Рудаков участвовал в многочисленных выставках, был членом «Мира искусства», «Общины художников», АХРР, членом-учредителем «Общества живописцев» (1928–1930). С 1932 года являлся членом Ленинградского Союза художников. В 1920-е годы художник много работал в области сатирической графики для журналов «Чиж», «Ёж», «Бегемот», «Смехач», «Крокодил». Позднее занимался станковой графикой, создав в 1930-е годы серии «Нэпманы», «Запад», «Обнаженные натурщицы». С 1929 года и до конца жизни преподавал в ЛИЖСА, а также на графическом отделении Ленинградского института инженеров коммунального строительства.

В 1936 году К. И. Рудакову было присвоено звание профессора Академии художеств.

В 1938–1940 годах работал в Экспериментальной литографской мастерской ЛОСХ. В 1940-х годах Константин Рудаков создал эскизы костюмов к постановкам «Горе от ума» А. Грибоедова для Ленинградского академического театра драмы им. А. С. Пушкина.

Константин Рудаков вошел в историю русского искусства как замечательный книжный иллюстратор и мастер литографии. Он создал иллюстрации к классическим произведениям русской и зарубежной литературы: А. Пушкина, Н. Гоголя, Л. Толстова, Ги де Мопассана, Э. Золя. В. Гауфа, Э. Гофмана. Будучи блистательным рисовальщиком, он всегда выбирал важные эпизоды и всегда находил выразительные композиционные решения.

Константин Рудаков жил на Петроградской стороне, на Большой Пушкарской улице, 50. Все тяжелые дни блокады художник провел в Ленинграде, не прекращая работы: он создал серию портретов бойцов ПВО, работал над театральными декорациями, исполнял живописные панно для городских площадей и улиц, сотрудничал с журналом «Костёр». В 1944 году К. Рудаков принял участие в выставке пяти работавших в блокаду художников в Русском музее (В. М. Конашевич, В. В. Пакулин, А. Ф. Пахомов, К. И. Рудаков и А. А. Стрекавин). Позднее, в феврале 1945 года они экспонировались в Москве.

Константин Иванович Рудаков скончался в 1949 году в Ленинграде. Был похоронен на Литераторских мостках Волковского кладбища. Работы художника хранятся в Государственном Русском музее, Государственной Третьяковской галерее, в музеях и частных собраниях в России, Великобритании, Италии и других странах дальнего зарубежья.