Родился 20 июля 1907 г. (по старому стилю 7 июля 1907 г.) в гор. Мелитополе Таврической губернии Российской империи (ныне Запорожская область) в семье разнорабочего.
В 1914-1919 гг. учился в городской школе Мелитополя. В 1930 г. заочно окончил рабфак Государственного политического управления (ГПУ) при Народном комиссариате внутренних дел (НКВД) СССР.
В июне 1919 г. в возрасте 12 лет ушел из дома вместе с покидавшим город полком Рабоче-крестьянской Красной армии (РККА). Участвовал в боях с войсками украинских националистов под Киевом. После разгрома полка вступил в Никополе во вновь сформированный 1-й ударный Мелитопольский полк 5-й Заднепровской дивизии РККА. Однако и этот полк был разбит войсками генерал-лейтенанта Белой армии Андрея Шкуро. Павел Судоплатов попал в плен, откуда бежал. Попав в занятую белыми Одессу, беспризорничал, подрабатывал в порту и на базаре. После освобождения Одессы в начале 1920 г. воевал в составе РККА. С февраля 1920 г. - красноармеец роты связи 123-й стрелковой бригады 41-й дивизии 14-й армии. Участвовал в боях на Украине и на Польском фронте.
В 1921-1922 гг. работал письмоводителем, регистратором, машинистом-систематизатором 44-й стрелковой дивизии РККА, а затем - Волынского губернского отдела ГПУ в Житомире.
В 1922-1923 гг. служил в погранвойсках Объединенного государственного политуправления (ОГПУ) при Совнаркоме СССР, был сотрудником Изяславского погранотделения, позднее - Славутинского погранпоста.
В сентябре 1923 г. перешел на комсомольскую работу в Мелитополь. Заведовал информотделом окружкома Ленинского коммунистического союза молодежи Украины (ЛКСМУ), был членом правления и комендантом местного клуба рабочей молодежи. С 1924 г. - секретарь ячейки ЛКСМУ с. Новогригоровка (ныне в Херсонской обл.).
В 1924 г. был учеником слесаря и одновременно секретарем ячейки ЛКСМУ на заводе им. Вацлава Воровского в Мелитополе, затем - практикантом мелитопольского райпотребсоюза.
В феврале 1925 г. направлен окружным комитетом ЛКСМУ на работу в Мелитопольский окружной отдел ГПУ на должность сводчика информационного отделения. В январе 1927 г. стал помощником уполномоченного уголовно-судебного отдела (УСО), затем - младшим оперработником. Отвечал за работу агентуры, действовавшей в греческом, болгарском и немецком поселениях.
С августа 1928 г. - уполномоченный секретно-политического отдела (СПО) Харьковского губотдела, затем - уполномоченный информационного отдела ГПУ УССР в Харькове. В 1928 г. стал членом ВКП(б).
В июле 1930 г. Павел Судоплатов был зачислен в резерв назначения и откомандирован комиссаром культурно-воспитательной части Прилукской трудовой коммуны ГПУ для малолетних правонарушителей.
В декабре 1931 г. - феврале 1932 г. работал инспектором организационно-инструкторского отдела ГПУ УССР в Харькове.
В феврале 1932 г. переведен в центральный аппарат ОГПУ в Москве. С января 1933 г. - старший инспектор 1-го отделения отдела кадров ОГПУ (курировал кадры Иностранного отдела, ИНО). В апреле 1933 г. Павел Судоплатов зачислен в аппарат ИНО ОГПУ - служил оперуполномоченным 5-го, затем 8-го отделений. С октября 1933 г. находился в резерве отдела кадров ОГПУ в связи со спецкомандировкой за рубеж. Выполняя оперативное задание, проходил обучение в специальной партийной школе Национал-социалистической немецкой рабочей партии (НСДАП) в Лейпциге (Германия).
1 июня 1934 г. вернулся в СССР и был зачислен оперуполномоченным в ИНО ОГПУ. С ноября 1934 г. - оперуполномоченный 7-го отделения ИНО Главного управления госбезопасности (ГУГБ) НКВД.
В 1935 г. под прикрытием представителя украинского антисоветского подполья, с оперативным псевдонимом "Андрей", был внедрен в руководство Организации украинских националистов (ОУН) в Берлине. Завоевал расположение лидера ОУН полковника Евгения Коновальца, сопровождал его в инспекционных поездках в Париж и Вену. В 1937-1938 гг. выезжал в Западную Европу в качестве нелегального курьера под прикрытием радиста грузового судна. 23 августа 1938 г. в Роттердаме (Нидерланды) по личному поручению руководителя СССР Иосифа Сталина ликвидировал лидера ОУН Коновальца.
С сентября 1938 г. - и. о. помощника начальника 4-го (испанского) отделения 5-го отдела ГУГБ НКВД. После ареста в ноябре-декабре 1938 г. руководителей разведки Зельмана Пассова и Сергея Шпигельгласа исполнял обязанности начальника 5-го отдела ГУГБ НКВД. После отставки Николая Ежова с поста наркома внутренних дел в конце декабря 1938 г. был отстранен и исключен из ВКП(б) первичной парторганизацией отдела с формулировкой "за связь с врагами народа". Но это решение не было утверждено парткомом наркомата, поэтому 16 января 1939 г. Павел Судоплатов стал заместителем начальника 4-го отделения. Вскоре после этого возглавивший органы госбезопасности Лаврентий Берия сделал его ответственным за подготовку операции "Утка", в ходе которой 21 августа 1940 г. в Мексике бывший советский нарком Лев Троцкий был ликвидирован Рамоном Меркадером.
С 10 мая 1939 г. по февраль 1941 г. Павел Судоплатов служил замначальника 5-го отдела ГУГБ НКВД СССР, с 25 февраля 1941 г. - заместителем начальника 1-го (разведывательного) управления НКГБ СССР.
Сразу после начала Великой Отечественной войны, 5 июля 1941 г. он возглавлял Особую группу при наркоме внутренних дел СССР Берии, а с 3 октября 1941 г. - 2-й отдел НКВД СССР. Одновременно с 30 ноября 1941 г. по 1 июня 1942 г. являлся заместителем начальника 1-го управления НКВД СССР.
18 января 1942 г. возглавил 4-е управление НКВД СССР, созданное на базе 2-го отдела. Руководил партизанскими и разведывательно-диверсионными операциями в тылах немецких войск, координировал работу агентурной сети на территории Германии и ее союзников, в том числе разведывательной операции "Монастырь". С 21 ноября 1942 г. по совместительству работал заместителем начальника 1-го управления НКВД СССР. С 11 мая 1943 г. - начальник 4-го управления НКГБ СССР, в мае - августе 1945 г. - начальник отдела "Ф" НКВД СССР (по совместительству). Отдел был создан для работы на территории освобожденных РККА стран, а также для сбора информации от граждан СССР, побывавших в плену или интернированных в странах Европы.
В 1945-1947 гг. под фамилией Матвеев и прикрытием должности советника Наркомата иностранных дел участвовал в подготовке и проведении конфиденциальных переговоров наркоминдела СССР Вячеслава Молотова с послом США в СССР Авереллом Гарриманом и лидером курдского национального движения Мустафой Барзани.
27 сентября 1945 г. возглавил самостоятельный отдел "С" НКВД (с 10 января 1946 г. - НКГБ) СССР. Одновременно являлся начальником Объединенного разведывательного бюро Спецкомитета при СНК-СМ СССР по проблеме №1 (создание атомного оружия). Отвечал за координацию обеспечения разведывательными материалами руководителей и ведущих ученых советского ядерного проекта. С ноября 1945 г. (по совместительству) работал начальником отдела "К" НКГБ СССР (оперативное обслуживание атомных спецобъектов), с мая 1945 г. также руководил Особым бюро - информационно-аналитической службой при наркоме внутренних дел СССР. С января 1946 г. служба подчинялась наркому, позднее - министру госбезопасности СССР.
После образования в марте 1946 г. Министерства госбезопасности (МГБ) СССР совмещал должности руководителя 4-го управления (до его упразднения 15 октября 1946 г.) и отдела "С" (с 4 мая 1946 г. по 30 мая 1947 г.). 15 февраля 1947 г. возглавил отдел "ДР", который был создан для развертывания в случае войны разведывательно-диверсионной работы против военно-стратегических баз США и НАТО, расположенных вокруг СССР. 9 сентября 1950 г. был утвержден начальником Бюро №1 МГБ СССР по диверсионной работе за границей.
После смерти Иосифа Сталина назначен 17 марта 1953 г. заместителем начальника Первого главного управления МГБ СССР. В мае - июле 1953 г. руководил 9-м (разведывательно-диверсионным) отделом МВД СССР.
После ареста министра внутренних дел СССР Лаврентия Берии 9-й отдел МВД расформировали, 31 июля 1953 г. Павел Судоплатов был переведен во Второе главное управление (ВГУ) МВД СССР на должность начальника отдела. Однако уже 20 августа 1953 г. его уволили "за невозможностью дальнейшего использования", а 21 августа 1953 г. арестовали в рабочем кабинете. Ему предъявили обвинение в заговоре, имевшем целью "уничтожение членов советского правительства и реставрацию капитализма".
До 1958 г. находился под следствием, виновным себя не признал. 12 сентября 1958 г. на закрытом заседании Военной коллегии Верховного суда (ВС) СССР был приговорен к тюремному заключению сроком на 15 лет, с последующим поражением в политических правах на три года. 17 октября 1958 г. лишен воинского звания и наград как осужденный ВС СССР. С сентября 1958 г. по август 1968 г. отбывал наказание во Владимирской тюрьме, где перенес три инфаркта, ослеп на левый глаз, получил инвалидность 2-й группы.
После освобождения занимался литературной деятельностью, активно участвовал в ветеранском движении. Более 20 лет боролся за свою реабилитацию. 10 февраля 1992 г. в соответствии с Законом РФ "О реабилитации жертв политических репрессий" от 18 октября 1991 г. был реабилитирован Главной военной прокуратурой РФ.
Скончался в Москве 24 сентября 1996 г. Похоронен на столичном Донском кладбище рядом с женой. Позднее в этой же могиле был похоронен сын Анатолий.
Генерал-лейтенант госбезопасности (1945).
Заслуженный работник НКВД (1942).
Был награжден орденом Ленина (1946), тремя орденами Красного Знамени (1937, 1941, 1944), орденом Суворова 2-й степени (1944), двумя орденами Красной Звезды (1940, 1943), орденом Отечественной войны I степени (1945), медалями. В октябре 1998 г. указом президента РФ Бориса Ельцина посмертно восстановлен в правах на изъятые при аресте государственные награды, семье Павла Судоплатова были возвращены его ордена и медали.
Под псевдонимом Анатолий Андреев Павел Судоплатов опубликовал книги "Горизонты: Повесть о Станиславе Косиоре" (1977), "На жестком берегу: Повесть о Марцеллии Новотко" (1983), "Конь мой бежит..." (1987, в соавторстве с Ириной Гуро - псевдоним сотрудницы органов госбезопасности Раисы Соболь). В соавторстве с младшим сыном Анатолием написал книгу мемуаров, вышедшую сначала в США (Special Tasks, 1994) и Германии (Der Handlanger der Macht: Enthullungen eines KGB-Generals, 1994), а затем и в России ("Разведка и Кремль", 1996). Автор книги "Спецоперации. Лубянка и Кремль 1930 - 1950 годы" (1997).
Супруга - Эмма Карловна Каганова (Суламифь Соломоновна Кримкер, 1905-1988), также была сотрудницей органов государственной безопасности. С 1928 г. пара состояла в гражданском браке, официально брак был зарегистрирован в 1951 г. Сыновья - Андрей (род. в 1940) и Анатолий (1943-2005, доктор экономических наук, историк отечественных спецслужб).