Родился 21 сентября 1956 г. в Москве.
В 1979 г. с отличием окончил экономический факультет Московского государственного университета (МГУ) им. Ломоносова по специальности "экономист-международник".
Кандидат экономических наук (2001), диссертацию на тему "Глобализация как форма интернационализации экономики" защитил в Финансовой академии (ныне - университет) при Правительстве РФ.
В 1979 - 1992 гг. работал в Министерстве иностранных дел: в 1979-1982 гг. - в Генеральном консульстве СССР в Австралии; в 1985-1990 гг. - в Посольстве СССР в Великобритании; в 1990-1992 гг. - советник Европейского департамента МИД.
В 1992 г. ушел из МИД и занялся бизнесом в "Русской инвестиционно-финансовой компании" (РИФК) совместно с Александром Лебедевым, с которым познакомился во время работы в Великобритании. Был исполнительным директором РИФК.
В 1993-1995 гг. занимал пост заместителя начальника Управления иностранных инвестиций банка "Империал". В 1995 - 1996 гг. - первого заместителя председателя в Национальном резервном банке (НРБ, владелец - Александр Лебедев).
18 октября 1996 г. указом президента РФ Бориса Ельцина Андрей Костин был назначен председателем Внешэкономбанка (ВЭБ).
С 10 июня 2002 г. по н. в. - президент - председатель правления Внешторгбанка (с 2006 г. - ОАО "Банк ВТБ", с 2015 г. - ПАО "Банк ВТБ"). Член наблюдательного совета Банка ВТБ (был председателем совета в 2007-2016 гг.).
С августа 2023 г. - председатель совета директоров Объединенной судостроительной корпорации (ОСК)
В 2012-2014 гг. был деканом, в 2014-2019 гг. - директором Высшей школы менеджмента Санкт-Петербургского государственного университета
Глава попечительского совета Федерации спортивной гимнастики России.
Является председателем попечительского совета Государственного академического Большого театра (с 2018 г.), членом попечительских советов Фонда поддержки и развития физической культуры и спорта РФ (с 2005 г.), Санкт-Петербургского государственного университета, МГУ и Финансового университета при правительстве РФ (с 2007 г.), Национального исследовательского университета "Высшая школа экономики" (с 2008 г.), Приморского театра оперы и балета (с 2014 г.). Член совета директоров "Ростелекома" (с 2020 г.) и "Почты России" (с 2019 г.).
По данным ПАО "Банк ВТБ", Андрей Костин имеет долю 0,00036% в уставном капитале, владеет 0,00183% обыкновенных акций этого банка.
Полный кавалер ордена "За заслуги перед Отечеством" (2006, 2011, 2016, 2021). Также награжден орденом Почета (1999), французским орденом "За заслуги" (2007). Отмечен благодарностью президента РФ (2017) и правительства РФ (2016).
Женат.