Павел Николаевич родился в Москве 27 (по новому стилю 8 января) декабря 1882 года. Отец, крестьянин Тульской губернии, до августа 1880 года — «бесфамильный»; предположительно, фамилия «Филонов» была закреплена за ним при переезде семьи в Москву, где он работал кучером. Мать была прачкой. В семье было шестеро детей: четыре девочки, два мальчика, Павел младший.

С 1894 по 1897 год — ученик городской московской приходской школы, которую окончил с отличием.

После переезда в Петербург в 1897 году Филонов поступил в живописно-малярные мастерские, по окончании которых работал «по малярно-живописному делу». Одновременно, с 1898 года посещал вечерние рисовальные классы Общества поощрения художеств, а с 1903 года — учился в частной мастерской, после чего трижды пытался поступить в Петербургскую Академию художеств. В 1908 был принят вольнослушателем в школу при Академии художеств, из которой он «добровольно вышел» в 1910 году.

Во время обучения в школе Академии Филонов познакомился с представителями школы русского авангарда, называвшими себя «Союз молодежи», и примкнул к этому объединению. Работы Павла органично вписались в концепцию экспериментального общества, и в 1910 году он презентовал на выставке первую картину «Головы». С этой работы началось регулярное участие начинающего живописца в показах, устраиваемых членами «Союза».

Затем написаны и предъявлены публике картины «Крестьянская семья» и «Пир королей», которые произвели неприятное и угнетающее впечатление из-за асимметричных неестественно-вытянутых фигур и контрастной, режущей глаз цветовой палитры.

Почувствовав, что произведения требуют пояснений, в 1912 году Филонов написал эссе под названием «Канон и закон», где сформулировал творческие принципы собственного метода, названного «аналитическим искусством».

После распада «Союза молодежи» Филонов объединился с бывшими участниками кружка и выпустил творческий манифест под названием «Интимная мастерская живописцев и рисовальщиков «Сделанные картины», который стал продолжением «Канона и закона».

Первая мировая война и последовавший за ней Октябрьский переворот на некоторое время оторвали Филонова от творческого процесса. Художник вернулся к публике в 1918 году, став гвоздем программы выставки, устроенной в Зимнем дворце среди представителей разных жанров, стилей и направлений. С 1918 по 1922 годы он создал десяток выдающихся работ, среди которых самыми заметными были «Формула петроградского пролетариата», «Победа над вечностью» и «Формула космоса». В это же время Филонов стал родоначальником школы «Мастера аналитического искусства» (МАИ) и пытался пропагандировать собственные теории в столичной художественной академии.

В 1921 году Филонов заключил брак с разведенной женщиной Екатериной Александровной Серебряковой, которая была на 20 лет старше художника и воспитывала двоих сыновей.

К 1922 году относится безуспешная попытка Филонова реорганизовать живописный и скульптурный факультеты Академии художеств в Петрограде. Идеи Филонова не находят официальной поддержки. Но Филонов прочёл ряд лекций по теории и «идеологии» аналитического искусства. Конечным результатом была «Декларация «Мирового расцвета» — наиболее важный документ аналитического искусства.

B 30-e гoды oфициaльнaя критика обвиняла Филoнoвa в формализме. Художник и его ученики стали объектами ожесточённой травли. Мастер голодал, экономил на всём, продолжая преподавать бесплатно. Тревога и уныние отразились в цикле его последних картин под названием «Лица», созданном перед началом Великой Отечественной войны. Триптих продемонстрировал несогласие с режимом и готовность отстаивать собственные творческие идеалы. 3 декабря 1941 года в блокадном Ленинграде художник скончался от болезни, вызванной переохлаждением и был похоронен на Серафимовском кладбище, на 16 участке, непосредственно около церкви святого Серафима Саровского.

С 1919 по 1941 год жил в общежитии писателей имени Василия Голубева на улице Литераторов, 19.