Родился 18 января 1901 г. (5 января по старому стилю) в гор. Севске Орловской губернии Российской империи (ныне Брянская обл., РФ) в купеческой семье.
В 1917 г. окончил реальное училище г. Севска и поступил на естественное отделение физико-математического факультета Московского университета (ныне МГУ им. М. В. Ломоносова), где предполагал специализироваться на изучении химии или биологии, однако после Октябрьской революции 1917 г. был вынужден оставить учебу.
С 1918 г. жил с семьей в украинском г. Елисаветграде (ныне Кропивницкий, Кировоградская обл., Украина), где учился в механическом техникуме. В этот период Иван Петровский познакомился с научной книгой о теории чисел немецкого математика Петера Дирихле, которая пробудила его интерес к математике.
В 1922 г. вернулся в МГУ и перевелся на математическое отделение физико-математического факультета. Окончил университет в 1927 г. по специальности "прикладная математика". Затем до 1930 г. обучался в аспирантуре МГУ, был учеником математика Дмитрия Егорова.
Доктор физико-математических наук (1935, получил ученую степень без защиты диссертации).
В 1943 г. был избран членом-корреспондентом, в 1946 г. - академиком Академии наук СССР (ныне Российская академия наук, РАН). Являлся членом Отделения физико-математических наук АН СССР.
В 1929 г. начал преподавать в МГУ. Работал в университете ассистентом, затем доцентом. В 1933 г. стал профессором МГУ.
В 1935-1958 гг. Иван Петровский руководил семинаром по теории уравнений с частными производными (сначала вел его вместе с советскими математиками Сергеем Соболевым и Андреем Тихоновым).
Совмещал преподавательскую деятельность с научной. Одновременно с 1939 по 1972 г. работал в Математическом институте им. В. А. Стеклова АН СССР (МИАН; ныне Математический институт им. В. А. Стеклова РАН, Москва), где в 1947-1949 гг. занимал должность заместителя директора Ивана Виноградова. Работая в МИАН, Петровский принимал участие в советском атомном проекте.
С сентября 1940 г. по июнь 1944 г. являлся деканом механико-математического факультета МГУ.
В 1949-1951 гг. занимал должность академика-секретаря Отделения физико-математических наук АН СССР.
С 1950 г. был главным редактором журнала "Математический сборник" МИАН.
В 1951-1973 гг. заведовал кафедрой дифференциальных уравнений механико-математического факультета МГУ.
В мае 1951 г. Иван Петровский был избран ректором Московского государственного университета им. М. В. Ломоносова, сменил в этой должности Александра Несмеянова, ставшего президентом АН СССР. Возглавлял университет вплоть до своей кончины в 1973 г. За время его ректорства в МГУ были организованы шесть новых факультетов (в т. ч. вычислительной математики и кибернетики), научно-исследовательский вычислительный центр, научно-исследовательский институт механики. Университет получил новую территорию и здания на Ленинских (ныне Воробьевы) горах.
Петровский был одним из инициаторов учреждения физико-математической школы-интерната при МГУ (ныне Специализированный учебно-научный центр (факультет) школа-интернат им. А. Н. Колмогорова МГУ) и заочной математической школы (ныне Всероссийская заочная многопредметная школа, структурное подразделение общеобразовательного учреждения г. Москвы "Лицей "Вторая школа").
С 1953 по 1973 г. он являлся членом Президиума АН СССР.
В 1953-1954 гг. был депутатом Московского городского Совета депутатов трудящихся, в 1955-1961 гг. - депутатом Верховного Совета РСФСР, в 1962-1973 гг. - депутатом Верховного Совета СССР. В 1966-1973 гг. - член Президиума ВС СССР.
С 1955 г. входил в состав Советского комитета защиты мира.
Иван Петровский скончался 15 января 1973 г. в Москве, похоронен на Новодевичьем кладбище столицы.
В область научных интересов математика входили теория дифференциальных уравнений с частными производными, теория вероятностей, алгебраическая геометрия, качественная теория обыкновенных дифференциальных уравнений, топология, вычислительная математика, математическая физика, математические модели естествознания. Иван Петровский заложил основы общей теории систем дифференциальных уравнений с частными производными, выделил и изучил классы гиперболических, параболических и эллиптических систем. Установил аналитичность решений эллиптических систем (1937), изучил задачу Коши для гиперболических и параболических систем (1936) и исследовал зависимость решений задачи Коши от начальных данных, установив условия существования лакун и диффузии волн (1944). Его работы по теории вероятностей (1934) оказали большое влияние на развитие теории случайных процессов. Созданный им метод позволил получить глубокие результаты по топологии алгебраических многообразий любой размерности.
Среди трудов ученого "Метод Фурье для решения краевых задач и уравнений типа Sturm-Liouwille" (1933), "Лекции по теории обыкновенных дифференциальных уравнений" (1939), "О зависимости решения задачи Коши от начальных данных" (1943), "О диффузии волн в лакунах для систем гиперболических уравнений" (1944), "Лекции по теории интегральных уравнений" (1948), "Лекции об уравнениях с частными производными" (1950) и др.
Герой Социалистического Труда (1969). Был награжден пятью орденами Ленина (1953, 1961, 1967, 1969, 1971) и тремя орденам Трудового Красного Знамени (1944, 1945, 1949), а также медалями.
Лауреат Сталинских премий I степени (1946, за фундаментальные исследования в области теории дифференциальных уравнений с частными производными) и II степени (1952, за изданные на основе лекций учебники).
Имел иностранные награды: венгерский орден Труда I степени (1964), орден ГДР "За заслуги" II степени (1965), болгарский орден Кирилла и Мефодия I степени (1968), офицер французского ордена Почетного легиона (1971).
Был почетным членом Румынской академии наук (1965), почетным доктором ряда зарубежных университетов.
На главном здании МГУ на Воробьевых горах установлена мемориальная доска-горельеф академика Петровского. В Научной библиотеке МГУ хранится книжное собрание Ивана Петровского, переданное университету в 1973 г. по его завещанию. В честь ученого названы стипендия МГУ и премия РАН (присуждается за выдающиеся результаты в области математики). Его имя носят средняя общеобразовательная школа №2 в г. Севске, Брянский государственный университет, улица в Москве, перевал на Тянь-Шане в Киргизии.