Родился 28 июля 1806 г. (16 июня 1806 г. по ст. ст.) в Санкт-Петербурге. Его отец, Андрей Иванович Иванов (1775-1848), был живописцем, академиком, адъюнкт-профессором исторического класса Императорской академии художеств.
Начальное образование Александр Иванов получил дома, учился живописи у своего отца и других преподавателей академии.
В возрасте 11 лет был принят в Императорскую академию художеств, учился там с 1817 по 1828 г. При этом в отличие от других учеников жил не при академии, а в доме отца, продолжая работать в его мастерской.
В 1824 г. был награжден малой золотой медалью за картину, написанную на сюжет из "Илиады" Гомера ("Приам испрашивает у Ахиллеса тело Гектора"). Спустя три года получил звание художника XIV класса и большую золотую медаль за полотно "Иосиф, толкующий сны заключенным с ним в темнице виночерпию и хлебодару", в основу которого легло библейское предание. На выставке 1827 г. эту работу высоко оценили критики.
Как вольноприходящий ученик Иванов не мог рассчитывать на дальнейшее обучение за границей за счет академии, однако свое покровительство молодому живописцу оказало Общество поощрения художников (ОПХ). Оно приняло решение отправить Александра Иванова за границу с условием, что до отъезда он создаст еще одну картину. В 1829 г. художник представил ОПХ произведение "Беллерофонт отправляется в поход против Химеры", написанное на сюжет греческой мифологии, а в 1830 г. отбыл в Италию.
В Риме он изучал памятники итальянского искусства, копировал фрески Микеланджело в Сикстинской капелле, создал несколько эскизов ("Самсон в объятиях Далилы", "Давид играет перед Саулом" и др.), написал картину "Аполлон, Гиацинт и Кипарис, занимающиеся музыкой и пением" (1831-1833).
В качестве идеи для своей будущей работы художник выбрал один из самых значительных библейских сюжетов - явление Иисуса Христа на реке Иордан в тот момент, когда Иоанн Креститель (Предтеча) совершает обряд крещения первых христиан. При этом автор хотел показать определяющий момент в истории человечества не через образ Христа, а через реакцию увидевших его людей. Для воплощения этого замысла художник решил создать монументальное многофигурное полотно. Однако прежде Иванов обратился к менее масштабному произведению на библейскую тему. В 1834-1835 гг. им было написано "Явление Христа Марии Магдалине после воскресения". Картина, представленная в Италии, имела большой успех. Затем живописец отослал ее в Петербург Обществу поощрения художников. За эту работу в 1836 г. он был удостоен звания академика Императорской академии художеств. Картина была подарена императору Николаю I, а самому Александру Иванову ОПХ продлило содержание за границей.
Художник остался в Риме, где приступил к работе над будущим полотном "Явление Мессии" ("Явление Мессии народу", ныне известна как "Явление Христа народу"). Изначально он думал написать картину на холсте размером 1,7 м на 1,5 м, но в 1837 г. приобрел полотно 5,4 м на 7,5 м, а прежний вариант использовал как рабочий эскиз. Несмотря на то, что идею живописца о создании столь грандиозного произведения не поддерживали в Императорской академии художеств, Иванов работал над ним в течение 20 лет. Для поиска подходящей натуры, напоминающей библейские места, художник совершил несколько путешествий по Италии и Венеции. Он писал пейзажи, делал бытовые зарисовки, изучал работы великих итальянских мастеров.
Первоначально Иванов жил в Италии за счет пансиона ОПХ и временного содержания, предоставленного ему императором Николаем I и великим князем Александром Николаевичем, но впоследствии был вынужден урезать все расходы, жить на пособия и пожертвования меценатов. Он полностью посвятил себя работе над "Явлением Мессии", заявив, что отказывается от написания других картин. Однако параллельно им были созданы множество этюдов и акварелей, в том числе на жанровые темы, часть которых он преподнес в дар членам императорской семьи ("Октябрьский праздник в Риме у Понте-Молле", "Ave Maria", "Ветка", "Аппиева дорога при закате солнца", "Христос в Гефсиманском саду. Явление Ангела" и др.). Кроме того, в 1841 г. художник написал два варианта портрета своего близкого друга писателя Николая Гоголя, который также проживал в Италии. Черты Гоголя Иванов придал и одному из персонажей картины "Явление Мессии".
В 1857 г. посетил Лондон, где встречался с русским писателем, публицистом Александром Герценом.
В 1858 г. живописец решил вернуться в Санкт-Петербург и выставить свою картину. Художник рассчитывал на полученные от ее реализации средства отправиться в путешествие на Восток для воплощения очередного грандиозного замысла - создания серии росписей на библейские темы. К этому времени Ивановым уже были сделаны более 200 набросков, рисунков, схем размещения будущих росписей. Однако все они стали обнародованы лишь после смерти художника.
В мае 1858 г. "Явление Мессии народу" было показано в Зимнем дворце императору Александру II. В начале июня полотно вместе со всеми эскизами и этюдами выставили в Античном зале Академии художеств. Экспозицию посетили более 30 тыс. человек. После выставки за картиной окончательно закрепилось ее нынешнее название "Явление Христа народу".
Монументальное произведение Иванова было неоднозначно оценено критиками. Однако Владимир Стасов отмечал, что автору удалось создать картину, подобной которой не было в русском искусстве. Художник Илья Репин писал, что это "самая гениальная и самая народная русская картина".
Александр Иванов не дождался решения монарха о покупке "Явления Мессии". После выставки художник заболел холерой и 15 июля (3 июня) 1858 г. скончался. Через несколько часов после его смерти стало известно, что император приобрел "Явление Христа народу" за 15 тыс. руб. серебром и пожаловал его автору орден Святого Владимира.
В августе 1861 г. Александр II передал картину в дар московскому Румянцевскому музею. В 1924 г. в связи с расформированием последнего полотно решили передать Государственной Третьяковской галерее, но перемещено оно было туда лишь в 1932 г. Малый вариант картины "Явление Христа народу", служивший художнику эскизом, ныне хранится в Государственном Русском музее (Санкт-Петербург). В Русском музее и Третьяковской галерее находятся также наброски, акварели, этюды, сделанные живописцем в процессе работы.
Александр Иванов был похоронен на Новодевичьем кладбище Санкт-Петербурга. В 1936 г. его прах перенесли на Тихвинское кладбище (ныне Некрополь мастеров искусств) Александро-Невской лавры. Бюст художника установлен в Михайловском саду Санкт-Петербурга.