Родился 7 августа 1904 г. (25 июля по старому стилю) в Нижнем Новгороде в семье капитана речного судна.
В мае 1919 г. Александр Голованов добровольно вступил в ряды Рабоче-крестьянской Красной армии (РККА). Воевал на Южном фронте Гражданской войны 1917-1922 гг., был разведчиком 59-го стрелкового полка.
После демобилизации в октябре 1920 г. работал курьером в Центральном управлении снабжения Красной Армии и Флота, затем агентом в Центропечати и в Волгосудстрое, позднее электромонтером в 5-м Волжском полку Государственного политического управления Народного комиссариата внутренних дел (ГПУ НКВД) - органа госбезопасности РСФСР. В 1923 г. ГПУ было преобразовано в ОГПУ СССР.
С 1924 г. Александр Голованов занимал различные должности в системе ОГПУ (от уполномоченного до начальника отделения). Участвовал в аресте одного из лидеров антисоветского подполья Бориса Савинкова.
В 1931-1933 г. был прикомандирован к Народному комиссариату тяжелой промышленности, где занимал должность ответственного секретаря заместителя наркома.
В 1932 г. Александр Голованов окончил летную школу Осоавиахима при Центральном аэрогидродинамическом институте (ныне Центральный аэрогидродинамический институт им. профессора Н. Е. Жуковского, г. Жуковский Московской области).
В 1933-1941 гг. работал в Главном управлении гражданского воздушного флота (ГВФ) "Аэрофлот", где последовательно занимал должности пилота, помощника командира авиаотряда Московского управления, командира особого авиаотряда тяжелых кораблей Среднеазиатского управления ГВФ в г. Ашхабаде (Туркменская ССР, ныне Туркмения), начальника Восточно-Сибирского управления ГВФ в г. Иркутске, шеф-пилота эскадрильи особого назначения.
В 1936 г. Александр Голованов вошел в состав совета при начальнике ГВФ СССР. В 1938 г. газеты писали о Голованове как о летчике, налетавшем миллион километров. С мая по октябрь 1939 г. он находился в распоряжении штаба Военно-воздушных сил (ВВС) РККА. Участвовал в боевых действиях на реке Халхин-Гол и в советско-финляндской войне 1939-1940 гг.
В январе 1941 г. Александр Голованов в письме к главе СССР Иосифу Сталину сообщил о необходимости специальной подготовки летчиков дальней бомбардировочной авиации к полетам в плохую погоду, вне видимости земли. После этого он был назначен командиром 212-го отдельного дальнебомбардировочного авиационного полка.
В ходе Великой Отечественной войны 1941-1945 гг. Александр Голованов лично принимал участие в дальних бомбардировках объектов противника в качестве командира воздушного корабля. В августе 1941 г. его назначили командиром 81-й авиационной дивизии дальнего действия, а в декабре того же года - командиром 3-й авиадивизии дальнего действия.
В феврале 1942 г. Александр Голованов получил назначение на должность командующего авиацией дальнего действия (АДД), которая подчинялась непосредственно Ставке Верховного главнокомандования. С декабря 1944 г. командовал 18-й воздушной армией, которая была сформирована на базе АДД с подчинением командующему ВВС РККА Александру Новикову.
В апреле 1946 г., согласно приказу советского лидера, министра Вооруженных сил (ВС) СССР Иосифа Сталина, 18-я воздушная армия ВВС РККА была преобразована в дальнюю авиацию ВС СССР. С 1946 по 1948 г. Александр Голованов являлся командующим дальней авиации.
В 1950 г. с отличием окончил общевойсковой факультет Высшей военной академии им. К. Е. Ворошилова (ныне Военная академия Генерального штаба ВС РФ). В декабре 1951 г. был прикомандирован к Высшим стрелково-тактическим курсам усовершенствования офицерского состава пехоты "Выстрел" им. Маршала Советского Союза Б. М. Шапошникова.
С 1952 г. командовал 15-м гвардейским воздушно-десантным корпусом, который дислоцировался в г. Пскове. В 1953 г., вскоре после смерти Иосифа Сталина, Александр Голованов был уволен в запас по болезни.
В 1958-1966 гг. работал заместителем начальника по летной части в Государственном научно-исследовательском институте гражданской авиации (Москва).
В последние годы жизни занимался написанием мемуаров.
Александр Голованов скончался 22 сентября 1975 г. в Москве на 72-м году жизни. Похоронен на столичном Новодевичьем кладбище.
В 1946-1950 гг. являлся депутатом Верховного Совета СССР II созыва.
Главный маршал авиации (1944, являлся самым молодым маршалом рода войск в истории РККА).
Александр Голованов был награжден двумя орденами Ленина (1940, 1949), тремя орденами Красного Знамени (1939, 1941, 1944), орденом Красной Звезды (1968), тремя орденами Суворова I степени (1943, дважды в 1945), медалями и иностранными наградами.
Автор книги "Дальняя бомбардировочная…" (в 1969-1972 гг. публиковалась отдельными главами в литературном журнале "Октябрь", полная версия мемуаров вышла в 2004 г.).