Родился 25 января 1832 г. (по старому стилю 13 января 1832 г.) в гор. Елабуге (Вятская губерния Российской империи, ныне на территории Республики Татарстан, РФ) в обедневшей купеческой семье.
В 1844 г. был определен в ученики Первой Казанской мужской гимназии, оставил ее на пятом году обучения. Самостоятельно практиковался в рисовании, в 1852-1856 гг. учился в Московском училище живописи, ваяния и зодчества. Тогда же выбрал основной темой пейзажную живопись. В 1857-1860 гг. обучался в Императорской Академии художеств (Санкт-Петербург). По окончании академии был награжден большой золотой медалью и пенсионерской поездкой за границу.
Академик Императорской Академии художеств (1866, за картину "Вид в окрестностях Дюссельдорфа"). Профессор пейзажной живописи (1873, за картину "Лесная глушь").
С 1862 по 1865 г. путешествовал по Европе, освоил техники литографии, офорта и рисунка пером.
В 1870 г. вместе с Иваном Крамским, Василием Перовым, Григорием Мясоедовым, Алексеем Саврасовым и др. стал членом-учредителем Товарищества передвижных художественных выставок. Являлся постоянным участником товарищества в течение 25 лет.
Полотна и рисунки Ивана Шишкина были представлены на выставках в Академии художеств, Всемирных выставках в Париже (1867 и 1878 гг.), а также на Всемирной выставке в Вене (1873 г.).
В 1894-1895 гг. возглавлял пейзажную мастерскую Высшего художественного училища при Академии художеств.
В числе наиболее известных работ Ивана Шишкина – "Рожь" (1878), "Лесные дали" (1884), "Утро в сосновом лесу" (1889; фигуры медведей написаны Константином Савицким, 1844-1905), "На севере диком..." (1891),"Лес" (1895). В раннем творчестве Шишкина выделялись работы, написанные в традициях позднеромантического пейзажа, в дальнейшем живописец перешел к передаче эпической и торжественной красоты русской природы - преимущественно леса.
Иван Шишкин скончался 20 марта (8 марта по старому стилю) 1898 г. в Санкт-Петербурге на 67-м году жизни, работая за мольбертом. Был похоронен на Смоленском православном кладбище Санкт-Петербурга. В 1950 г. прах перенесен вместе с памятником на Тихвинское кладбище Александро-Невской лавры.
Кавалер ордена Святого Станислава III степени (1868).
Был женат на Евгении Александровне Шишкиной (1847-1874), сестре живописца Федора Васильева. У пары было трое детей: сыновья Владимир (1871-1873) и Константин (1873-1875), дочь Лидия (1869-1931). После смерти супруги женился на своей ученице Ольге Антоновне Лагоде-Шишкиной (1850-1881). Дочь от второго брака - Ксения (1881-?).