После окончания средней школы работал на электростанции. Учился на педагогическом отделении политехникума, в 1926-1927 годах - в Ленинградском кинотехникуме, а после - в студии ФЭКС (Фабрика эксцентрического актёра) у Георгия Козинцева и Леонида Трауберга. Как же он был горд, когда впервые снялся в массовке в экранизации гоголевской «Шинели»! Олег Петрович вспоминал: «Мы снимались на первобытной чёрно-белой пленке, при примитивном освещении, в немом кинематографе — и были счастливы!» Именно тогда он сразу и окончательно решил: будет киноактёром. В 1929 году окончил Ленинградский техникум сценических искусств.

Фильмография Жакова насчитывает более ста картин. Самые заметные работы – в фильмах «Семеро смелых», «Мы из Кронштадта», «Нашествие» и «У озера». В 1944 году был награжден "За успешную работу в области советской кинематографии в дни Отечественной войны и выпуск высокохудожественных картин".

С 1957 года жил в Пятигорске.