Павел Петрович Чистяков родился 5 июля (23 июня) 1832 года в селе Пруды Весьегонского уезда Тверской губернии в крестьянской семье. Рисованием начал заниматься уже в годы учебы (1844–1848) в четырехклассном уездном училище города Бежецка.

Страстная мечта стать художником привела его в Петербург, где в 1849 году он поступил в Императорскую Академию художеств. Прививая высокие профессиональные навыки, Академия требовала от учащихся предельной завершенности рисунка, что выражалось в продуманности композиции и образа, тщательной отделке деталей, в логической взаимосвязанности форм. Первоначальное обучение в Академии состояло из рисования гипсовых слепков и копирования гравюр известных. мастеров. Наиболее отличившиеся молодые художники свою заграничную практику опять же начинали с копирования. Во время обучения Чистяков считался одним из лучших рисовальщиков, но академическая методика, заключавшаяся в бесконечном копировании знаменитых гравюр и рисовании гипсов, была ему не по сердцу. Блестяще освоив школу рисунка, он много работал самостоятельно. «Перспективу я слушал всего раза четыре у М. Н. Воробьева, — вспоминал художник, — чертежей вчерне сделал три, а прочее усвоил в течение шести верст», во время ежедневных «прогулок» из дома в Академию художеств.

Во второй половине XIX века в деятельности Академии художеств все сильнее ощущается нарастающий конфликт между устаревающими классицистическими и новыми реалистическими тенденциями. Новые веяния не могли не коснуться творчества педагогов и учащихся, которые пытались отказаться от внешней описательности, стремились глубже вникнуть в суть изображаемых явлений и острее выразить характер образов. Изображения натурщиков, исполненных П. П. Чистяковым, свидетельствуют о пристальном внимании к живой модели и стремлении передать ее с максимальной жизненной конкретностью.

С 1850 года, чтобы прокормить себя и помочь семье, П. П. Чистяков начал давать частные уроки живописи. Педагогика была истинным призванием Павла Петровича. «Мне кажется, я и родился со способностью и любовью к учительству», — признавался он в письме к П. М. Третьякову. О своем раннем опыте педагога вспоминал так: «Уча других, я сам учился».

В 1861 году Чистяков блестящее окончил Академию. Получение большой золотой медали давало ему право на пенсионерскую поездку в Италию, куда он отправился в 1863 году.

Живописец провел за границей более семи лет. Написанные в Италии работы были восторженно приняты художественной критикой и публикой на академической выставке 1870 года. За них Чистяков был удостоен звания академика живописи. С 1872 года он стал преподавать в Академии. «Чистяков вернулся из Италии, — вспоминал И. Е. Репин, — и сразу очаровал нас своим темпераментом поэта и такой глубиной понимания искусства, о которой мы и не мечтали. Он любил учить, привязался к нам, и часто-часто мы восхищались им до самозабвения. Он не был штатным профессором; но мы всех штатных бросили еще до появления Чистякова».
В 1892 году Павла Петровича избрали профессором «за известность на художественном поприще».

Учениками Павла Петровича, или, как их еще называют, «чистяковцами», были: В. М. Васнецов, М. А. Врубель, И. Э. Грабарь, Д. Н. Кардовский, В. В. Матэ, М. В. Нестеров, И. С. Остроухов, В. Д. Поленов, И. Е. Репин, А. П. Рябушкин, В. Е. Савинский, К. А. Савицкий, В. А. Серов, В. И. Суриков и многие другие художники. «Почти вся реальная школа — Русский музей и необычайно популярная Третьяковская галерея — ученики Чистякова. Вынесите их произведения оттуда, и две богатейших сокровищницы русского искусства почти совсем опустеют…», — писал В. Федоров-Курганов.

По словам В. М. Васнецова: «…Павел Петрович был враг шаблона. Он никогда не держался одной для всех программы. Наоборот, он каждому отдельно умел указать дорогу к дальнейшему индивидуальному развитию. Он был посредником между натурой и учеником, ничего не навязывая, и каждый уразумевший его взгляд чувствовал под ногами прочную почву…». Обладатель пытливого, аналитического ума, П. П. Чистяков учился на протяжении всей жизни. «Я мало работал картин, но зато много учился, беседовал с природой, пытал ее со всех сторон, вдумывался и разрешал многое, многое — и понял», — пишет он в письме к В. И. Сурикову.
Строгий приверженец последовательного овладения мастерством, П. П. Чистяков внедрял принцип от простого к сложному. Считая отправной точкой учебы изучение натуры, он помогал своим ученикам постигать законы перспективы, изучать пластическую анатомию, механику движений, учил видеть форму и понимать ее внутреннюю конструкцию. В. А. Серов писал ему: «Считаю Вас единственным (в России) истинным учителем вечных незыблемых законов формы, чему только и можно учить…».

Чистяков полагал, что «рисунок — основа всего, фундамент», нужно «много и серьезно упражняться, чтобы овладеть техникой», которую важно развивать «неустанно, до виртуозности». «Вначале ученик всякий должен узнавать законы и (научаясь правильно всему порядку) передавать их законно, по порядку, просто. После пусть летает, как ему угодно…», — говорил Павел Петрович.

Он был уверен, что художественное мастерство и многосторонняя образованность неразрывно связаны: «Художник должен быть широко и разнообразно образованным: читайте, учитесь, тогда горизонты ваши будут необъятны; наука и природа сделают ваши картины глубокими, выразительными. Только развитый ум, облагороженное чувство и зоркий воспитанный глаз — основы жизни художника». Много знать и много уметь — вот к чему призывал Чистяков своих учеников, и «чем больше талант, тем большим знанием и умением должен он обладать».

С 1890 года, вплоть до увольнения из Академии в 1912 году, Чистяков был заведующим ее мозаичным отделением. В этой должности он наблюдал за работами по сооружению и отделке Исаакиевского собора и церкви Воскресения Христова в Санкт-Петербурге, храма Христа Спасителя в Москве, Александро-Невского собора в Варшаве.

В 1911 году в Академии художеств состоялось торжественное чествование Чистякова по случаю 50-летия его художественно-педагогической деятельности. Через год в возрасте 80 лет художник вышел в отставку и поселился с семьей в Царском Селе. В собственном доме, ныне превращенном в музей, он пережил революционные события 1917 года и начало гражданской войны. Скончался Павел Петрович 11 декабря 1919 года в возрасте 87 лет. Похоронен художник был на местном Казанском кладбище, где со временем разместились и могилы его ближайших родственников.