Родился 13 января 1893 г. (1 января 1893 г. по старому стилю) в гор. Петровске Саратовской губернии Российской империи (ныне в Саратовской обл. РФ) в семье конторского служащего.
Учился в четырехклассном городском училище, однако из-за ранней смерти матери не окончил его и с 12 лет работал по найму в лавке. В 1915 г. был призван на военную службу.
В Русской императорской армии служил сначала в 168-м запасном батальоне в Пензенской губернии, а затем в чине унтер-офицера был направлен в действующую армию на Юго-Западный фронт Первой мировой войны, в 638-й пехотный полк. Дослужился до звания фельдфебеля, командовал ротой.
После Февральской революции 1917 г. был избран членом полкового комитета.
В 1918 г. добровольно вступил в ряды Рабоче-крестьянской Красной армии (РККА) и был зачислен в 1-й Саратовский пехотный полк, впоследствии входивший в состав 25-й Чапаевской дивизии. Участвовал в Гражданской войне 1917-1922 гг. и советско-польской войне 1920 г., командуя взводом, затем ротой. За боевые заслуги на польском фронте был награжден орденом Красного Знамени. В марте 1921 г. стал командиром взвода 183-го отдельного пограничного батальона.
В 1923 г. Иван Панфилов окончил двухгодичную Киевскую высшую объединенную школу командиров РККА им. С. С. Каменева и был направлен в 52-й Ярославский стрелковый полк. Командовал взводом и ротой. Затем убыл на Туркестанский фронт, где командовал ротой. После этого являлся начальником полковой школы 1-го Туркестанского стрелкового полка. С мая 1925 г. командовал ротой в Памирском отряде, а с августа 1927 г. стал начальником полковой школы 4-го Туркестанского стрелкового полка. С 1928 г. командовал стрелковым батальоном 6-го Туркестанского полка Среднеазиатского военного округа (ВО). Принимал активное участие в борьбе с басмачеством. За проявленную храбрость в 1929 г. был удостоен второго ордена Красного Знамени.
С 1931 г. Иван Панфилов проходил службу командиром и комиссаром 8-го отдельного стрелкового батальона местных войск Среднеазиатского ВО, затем командиром 9-го краснознаменного горнострелкового полка в том же округе. В 1937 г. был назначен начальником квартирно-эксплуатационного отдела штаба округа.
С октября 1938 г. занимал пост военного комиссара Киргизской ССР (ныне Киргизия).
В начале Великой Отечественной войны (1941-1945) занимался формированием 316-й стрелковой дивизии в г. Алма-Ате (Казахская ССР, ныне Республика Казахстан), а 12 июля 1941 г. был назначен командиром этой дивизии. Продолжительное время военное формирование находилось в резерве Северо-Западного фронта, а в начале октября 1941 г. было спешно переброшено в район Волоколамска (Московская обл.) в связи с начавшимся наступлением вермахта на Москву.
27 октября 1941 г. Волоколамск был оставлен советскими войсками. Спустя три недели, 16 ноября, командующий Западным фронтом Георгий Жуков обратился в Ставку Верховного Главнокомандования с ходатайством о преобразовании 316-й стрелковой дивизии Ивана Панфилова в гвардейскую и награждении ее орденом Красного Знамени. Согласно донесению командующего фронтом, дивизия "отважными и умелыми действиями в течение 20-27 октября 1941 г. отбивала атаки трех пехотных дивизий и танковой дивизии фашистов". Через два дня, 18 ноября, приказом наркома обороны СССР Иосифа Сталина 316-я стрелковая дивизия была преобразована в 8-ю гвардейскую, став одной из первых соединений советской гвардии.
В этот же день, 18 ноября 1941 г., в деревне Гусенёво под Волоколамском Иван Панфилов получил смертельное ранение от осколка близко разорвавшейся артиллерийской мины и по пути в медсанбат скончался. Иван Панфилов был похоронен с воинскими почестями на Новодевичьем кладбище в Москве.
Генерал-майор (1940).
Был награжден орденом Ленина (1942, посмертно), тремя орденами Красного Знамени (1921, 1929, 1941) и медалью "XX лет РККА" (1938).
Указом Президиума Верховного Совета СССР от 12 апреля 1942 г. Ивану Панфилову было посмертно присвоено звание Героя Советского Союза ("за умелое руководство частями дивизии в боях на подступах к городу Москве и проявленные при этом личную храбрость и героизм").