Родился 15 мая 1925 г. в Козьмодемьянске (Марийская автономная область РСФСР, ныне - Республика Марий Эл). Его отец, Яков Андреевич Эшпай (1890-1963), был известным марийским композитором и фольклористом. Мать, Валентина Константиновна Тогаева (1897-1982), работала учительницей русского языка и литературы. В 1927 г. семья переехала в Москву.
В 1941 г. Андрей Эшпай окончил Детскую музыкальную школу-семилетку им. Гнесиных (ныне Московская средняя специальная музыкальная школа, колледж, им. Гнесиных) по классу педагога Валерии Листовой. В 1943 г. был принят в Чкаловское пулеметное училище (ныне Оренбургское высшее зенитное ракетное училище), затем окончил курсы переводчиков при Военном институте иностранных языков Красной армии (ныне Военный университет Министерства обороны РФ). С конца 1944 г. служил в войсках 1-го Белорусского фронта, участвовал в освобождении Варшавы, Прибалтики, взятии Берлина. За боевые заслуги был награжден орденом Красной Звезды (1945).
После окончания войны Андрей Эшпай занимался в Музыкальном училище при Московской государственной консерватории (МГК) им. П. И. Чайковского на фортепианном и композиторском отделениях. В 1953 г. окончил Московскую консерваторию по классу композиции профессора Евгения Голубева и по классу фортепиано заслуженного деятеля искусств РСФСР Владимира Софроницкого. В 1956 г. там же завершил обучение в аспирантуре под руководством народного артиста СССР Арама Хачатуряна. В 1965-1971 гг. вел в Московской консерватории класс композиции.
В 1952 г. Андрей Эшпай был принят в Союз композиторов СССР, став одним из самых молодых его членов. С 1960 г. занимал пост секретаря, в 1973-1979 гг. - первого секретаря Союза композиторов РСФСР. С 1968 г. был секретарем Союза композиторов СССР.
Андрей Эшпай создал более 300 музыкальных произведений. Его авторству принадлежат балеты "Ангара" (1976), "Круг" ("Помните!"; 1981), оперетты, инструментальные концерты, симфонии, кантата "Ленин с нами" на слова Владимира Маяковского (1968). Кроме академической музыки, Андрей Эшпай также написал более ста романсов и песен, среди которых "Москвичи" ("Сережка с Малой Бронной...", стихи Евгения Винокурова), "А снег идет" (стихи Евгения Евтушенко), "Два берега" (стихи Григория Поженяна) и др. Автор музыки к более чем 60 кинофильмам, в числе которых "Карьера Димы Горина" (1961, режиссеры Фрунзе Довлатян и Лев Мирский), "Майор Вихрь" по роману Юлиана Семенова (1967, Евгений Ташков), "Адъютант его превосходительства" по мотивам произведения Игоря Болгарина (1969, Евгений Ташков), "Трактир на Пятницкой" по детективу Николая Леонова (1977, Александр Файнциммер). Сочинял музыку к театральным постановкам. Выступал как пианист, исполнял собственные произведения.
Андрей Эшпай скончался 8 ноября 2015 г. в Москве на 91-м году жизни. Похоронен на столичном Новодевичьем кладбище.
В 1989-1991 гг. Андрей Эшпай был народным депутатом СССР (избран от Союза композиторов). В 2008-2015 гг. занимал пост президента авторского совета Российского авторского общества.
Андрей Эшпай состоял в жюри многих музыкальных конкурсов. Входил в Международный музыкальный совет при ЮНЕСКО. Был почетным членом Общества им. Ференца Листа (Венгрия), почетным профессором Московской государственной консерватории им. П. И. Чайковского.
Заслуженный деятель искусств РСФСР (1969). Народный артист СССР (1981).
Лауреат Государственной премии СССР в области литературы, искусства и архитектуры 1976 г., Ленинской премии 1986 г.
Был награжден орденами "Знак Почета" (1967), Трудового Красного Знамени (1971), Ленина (1985), Отечественной войны II степени (1985), "За заслуги перед Отечеством" IV степени (2000), Дружбы (2010).
Почетный гражданин Козьмодемьянска и Йошкар-Олы.
Был женат на пианистке Александре Михайловне Эшпай. Старший сын - киновед Валентин Эшпай (1953-2016). Младший сын - заслуженный деятель искусств РФ, режиссер и сценарист Андрей Эшпай (род. 1956).