Родился 7 июня 1926 г. в Москве в семье ученых-радиофизиков Виктора Ивановича Гапонова (1903-1990) и Марии Тихоновны Греховой (1902-1995). Отец был специалистом в области радиоэлектроники и техники СВЧ-приборов, имел ученую степень доктора физико-математических наук и звание профессора. Мать - доктор физико-математических наук, профессор, заслуженный деятель науки и техники РСФСР, в 1956-1972 гг. была директором-основателем Научно-исследовательского радиофизического института в Горьком (ныне НИРФИ Нижегородского государственного университета им. Н. И. Лобачевского, Нижний Новгород). Младший брат - Сергей Викторович Гапонов (род. 1937), физик, академик РАН.
В 1943-1945 гг., во время Великой Отечественной войны, Андрей Гапонов-Грехов был студентом спецфакультета Горьковского индустриального института им. А. А. Жданова (впоследствии Горьковский политехнический институт, ныне Нижегородский государственный технический университет им. Р. Е. Алексеева). В сентябре 1945 г. перевелся в Горьковский государственный университет (ГГУ; ныне Национальный исследовательский Нижегородский государственный университет им. Н. И. Лобачевского, ННГУ). Стал студентом радиофизического факультета (первого в стране), образованного в 1945 г. в ГГУ по инициативе его матери (она же была первым деканом факультета). В 1949 г. окончил университет по специальности "радиофизик".
В 1949-1952 гг. обучался в аспирантуре радиофизического факультета ГГУ, где его научным руководителем был академик АН СССР Александр Андронов (один из основателей горьковской научной радиофизической школы).
Доктор физико-математических наук. В 1955 г. при защите кандидатской диссертации по теме "Электромеханические системы со скользящими контактами и динамическая теория электрических машин" ему сразу была присуждена докторская степень.
В 1964 г. Андрей Гапонов-Грехов был избран членом-корреспондентом, в 1968 г. - действительным членом Академии наук СССР (ныне Российская академия наук).
С февраля 1942 г. по октябрь 1943 г. работал слесарем-механиком в Горьковском научно-исследовательском физико-техническом институте (ГИФТИ, ныне Научно-исследовательский физико-технический институт ННГУ), в котором работали его родители.
С сентября 1952 г. по сентябрь 1955 г. - старший преподаватель, доцент, профессор кафедры радиотехники Горьковского политехнического института.
В 1955-1956 гг. был старшим научным сотрудником ГИФТИ.
В сентябре 1956 г. перешел в организованный в том же году в Горьком Научно-исследовательский радиофизический институт, который возглавила его мать, и до ноября 1966 г. заведовал отделом НИРФИ.
Одновременно с 1956 г. был профессором Горьковского госуниверситета. В настоящее время - почетный профессор ННГУ.
С ноября 1966 г. по декабрь 1976 г. занимал должность заместителя директора НИРФИ по научной работе - сначала Марии Греховой (своей матери), затем Германа Гетманцева (возглавлял институт в 1972-1980 гг.).
Приняв предложение президента Академии наук СССР Анатолия Александрова, Андрей Гапонов-Грехов в 1977 г. перешел на работу в Институт прикладной физики АН СССР (ныне ИПФ РАН, Нижний Новгород), организованный на базе ряда подразделений НИРФИ. С 1977 г. по июнь 2003 г. он был директором-основателем нового института.
В 1987-2012 гг. возглавлял Научный совет АН СССР (затем РАН) по комплексной проблеме "Гидрофизика".
С июня 2003 г. по декабрь 2005 г. был научным руководителем ИПФ РАН. Впоследствии входил в состав дирекции института.
Являлся членом Отделения физических наук РАН (секция общей физики и астрономии). С 2006 г. занимал должность советника РАН.
Андрей Гапонов-Грехов скончался 2 июня 2022 г. на 96-м году жизни.
Основные труды ученого были посвящены электродинамике и электронике СВЧ, электронике больших мощностей, физике плазмы, нелинейной оптике, физике миллиметрового и субмиллиметрового диапазонов электромагнитного излучения, физике нелинейных колебательных и волновых процессов, аналитической динамике. Он сформулировал основные уравнения общей аналитической теории электромеханических систем, предсказал (1959) возможность индуцированного излучения потока возбужденных неизохронных осцилляторов и исследовал индуцированное циклотронное излучение. На основе этих работ совместно с сотрудниками создал мощные генераторы миллиметрового и субмиллиметрового диапазонов электромагнитного излучения – мазеры на циклотронном резонансе и гиротроны. Исследовал локализацию и ускорение плазмы ВЧ-полями, ввел (совм. с физиком Михаилом Миллером) понятие высокочастотного потенциала в плазме, изучал взаимодействие интенсивного электромагнитного излучения с плазмой, нагрев плотной плазмы интенсивным электромагнитным излучением, ударные электромагнитные волны, автоколебательные системы и др. В конце 1990-х гг. в ИПФ РАН, которым руководил Андрей Гапонов-Грехов, был создан первый в России фемтосекундный лазерный комплекс тераваттного уровня мощности, а затем - петаваттного уровня. Это стимулировало развитие в РФ нового научного направления - физики сверхсильных электромагнитных полей и их взаимодействия с веществом.
Автор и соавтор многих научных трудов. Среди них "О потенциальных ямах для заряженных частиц в высокочастотных полях" (1958), "Об использовании движущихся высокочастотных потенциальных ям для ускорения заряженных частиц" (1958), "Об ударных электромагнитных волнах в ферритах" (1959), "Взаимодействие непрямолинейных электронных потоков с электромагнитными волнами в линиях передачи" (1959), "О неустойчивости системы возбужденных осцилляторов по отношению к электромагнитным возмущениям" (1960), "Ударные электромагнитные волны" (1967), "Теоретическое и экспериментальное исследование, приведшее к созданию нового класса электронных приборов - мазеров на циклотронном резонансе" (1974), "О безынверсионном излучении неравновесных коллективов классических осцилляторов" (1997), "Механизм притяжения одноименно заряженных частиц в движущейся проводящей среде" (2005) и др.
Герой Социалистического Труда (1986). Был награжден орденами Ленина (1975, 1986), Октябрьской Революции (1981), "За заслуги перед Отечеством" II (2006) и III (1999) степеней.
Лауреат Государственных премий СССР (1967, 1983) и РФ (2003), Демидовской премии (1995).
За вклад в развитие физики колебательных и волновых процессов Андрей Гапонов-Грехов был удостоен высшей награды РАН - Большой золотой медали им. М. В. Ломоносова (2000).