Родился в селе Знаменка Славянского района Донецкой области Украинской ССР. С детства мечтал об авиации и дважды поступал в лётные училища. После окончания Харьковского театрального института был актёром Харьковского государственного академического украинского театра имени Т. Г. Шевченко. В кино дебютировал в 1954 году. Известность Быкову принесли комедии «Укротительница тигров» (1954) и «Максим Перепелица» (1955): первая вышла в лидеры советского кинопроката, а главная роль солдата Максима Перепелицы на долгие годы стала визитной карточкой актера.

В 1959 году переехал в Ленинград, где до 1969 года был актёром и режиссёром на «Ленфильме». После работал в Киеве на Киностудии имени А. Довженко.

В конце 1960-х годов в содружестве со сценаристами Евгением Оноприенко и Александром Сацким был написан сценарий будущего фильма "В бой идут одни старики". Однако ставить картину долго не давали, считая её не слишком героической. Фильм вышел на экраны страны в начале 1974 года и имел огромную популярность у публики. На Всесоюзном фестивале в Баку фильм получил почётный приз. В 1976 году Леонид Быков снял ещё одну картину о войне - "Аты-баты, шли солдаты".

В 1978 году началась работа над фантастическим фильмом «Пришелец», где Быков принял участие в качестве автора сценария, режиссёра и исполнителя двух главных ролей. Из-за трагической гибели актера съемки не были завершены.