Родился 6 июля 1901 г. (по старому стилю 23 июня 1901 г.) в дер. Сковорово (Тверская губерния Российской империи, ныне в Селижаровском районе Тверской обл. РФ) в семье кузнеца.
В 1919 г. Павел Ротмистров поступил добровольцем на военную службу в ряды Рабоче-крестьянской Красной армии (РККА), участвовал в сражениях Гражданской войны 1917-1922 г. на Восточном и Западном фронтах. В составе сводной бригады курсантов участвовал в подавлении Кронштадтского восстания. После войны служил на командных и штабных должностях.
В 1924 г. стал выпускником 1-й Советской объединенной военной школы РККА имени ВЦИК (ныне Московское высшее общевойсковое командное орденов Ленина и Октябрьской Революции краснознаменное училище). В 1931 г. окончил Военную академию РККА им. М. В. Фрунзе, в 1953 г. - Высшую военную академию им. К. Е. Ворошилова (ныне Военная академия Генерального штаба Вооруженных сил РФ, Москва). Доктор военных наук (1956), профессор (1958).
В 1938 г. работал преподавателем кафедры тактики Военной академии механизации и моторизации РККА им. И. В. Сталина (Москва). В ходе советско-финляндской войны 1939-1940 гг. командовал 35-й легкой танковой бригадой 7-й армии. С декабря 1940 г. служил заместителем командира 5-й танковой дивизии (Прибалтийский военный округ, Литовская ССР, ныне Литва). В мае 1941 г. был назначен начальником штаба 3-го механизированного корпуса (также в Литовской ССР).
Участвовал в приграничных сражениях начального этапа Великой Отечественной войны 1941-1945 гг. С сентября 1941 г. командовал 8-й (с января 1942 г. - 3-я гвардейская) танковой бригадой 11-й армии в Московской битве 1941-1942 гг.
В апреле 1942 г. занял пост командующего 7-м танковым корпусом (с декабря 1942 г. - 3-й гвардейский), который действовал в районе г. Ельца, затем под Сталинградом (ныне Волгоград). В январе 1943 г. корпус Павла Ротмистрова принял участие в разгроме группы войск генерал-фельдмаршала Эриха фон Манштейна, пытавшейся разблокировать окруженную советскими войсками сталинградскую группировку германских войск, а также в освобождении от гитлеровцев г. Ростова-на-Дону.
9 февраля 1943 г. генерал-лейтенант танковых войск Ротмистров возглавил 5-ю гвардейскую танковую армию. Войска армии отличились в Курской битве, сыграв решающую роль в Прохоровском танковом сражении. В дальнейшем 5-я гвардейская армия успешно проявила себя в Белгородско-Харьковской, Уманско-Ботошанской наступательных операциях, разгроме крупных группировок противника в районе Кривого Рога (ныне территории Украины), Кировограда (ныне г. Кропивницкий, Украина), а также окружении и ликвидации корсунь-шевченковской группировки противника.
Летом 1944 г. 5-я гвардейская армия участвовала в Белорусской наступательной операции. В августе того же года Павел Ротмистров был назначен на должность заместителя командующего бронетанковыми и механизированными войсками РККА.
После окончания Великой Отечественной войны, в 1945-1947 гг., командовал таковыми войсками в Группе советских оккупационных войск в Германии, в 1947 г. - танковыми войсками на Дальнем Востоке.
В 1948-1958 гг. занимал пост заместителя начальника кафедры в Высшей военной академии. С 1958 г. - начальник Военной академии бронетанковых войск (Москва).
С апреля 1964 г. по июнь 1968 г. был помощником министра обороны СССР по высшим военно-учебным заведениям. Главами военного ведомства в тот период были Родион Малиновский и Андрей Гречко.
С июня 1968 г. по апрель 1982 г. состоял в Группе генеральных инспекторов Минобороны СССР.
Павел Ротмистров скончался 6 апреля 1982 г. в Москве на 81-м году жизни. Похоронен на Новодевичьем кладбище столицы.
Главный маршал бронетанковых войск (1962).
Герой Советского Союза (1965, "за умелое руководство войсками, личное мужество и отвагу, проявленные в боях с немецко-фашистскими захватчиками").
Был награжден шестью орденами Ленина (1942, 1944, 1945, 1961, 1965, 1981), орденом Октябрьской Революции (1971), четырьмя орденами Красного Знамени (1921, 1944, 1968), орденами Суворова I (1944) и II степени (1943), Кутузова I степени (1943), Красной Звезд (1940), "За службу Родине в Вооруженных силах СССР" III степени, медалями, иностранными государственными наградами.
Почетный житель городов Тверь, Котельниково (Волгоградская обл.), пос. Селижарово (Тверская обл.), пос. Прохоровка (Белгородская обл.) и украинского г. Кропивницкий (бывш. Кировоград).
Павел Ротмистров был автором научных трудов по боевому применению танковых войск, написал книги "Танковое сражение под Прохоровкой" (1960), "Время и танки" (1972), "Танки на войне" (1975), "Стальная гвардия" (1984).