Родился 24 февраля 1899 г. (по старому стилю 12 февраля 1899 г.) в гор. Твери в семье военного врача.
В 1916 г. окончил в Москве реальное училище Константина Воскресенского, в 1916-1917 гг. учился в Императорском московском техническом училище (ныне Московский государственный технический университет им. Н. Э. Баумана). Весной 1917 г. стал выпускником действовавших при училище авиационных теоретических курсов профессора Николая Жуковского (впоследствии на базе курсов был образован Центральный аэрогидродинамический институт, ЦАГИ). В звании прапорщика Михаила Громова командировали в школу авиации Московского общества воздухоплавания (позднее Московская авиационная школа), которую он окончил в июне 1918 г.
После Октябрьской революции, в феврале 1918 г., Михаил Громов вступил в ряды Рабоче-крестьянской Красной армии (РККА). С июня 1918 г. по 1919 г. работал летчиком-инструктором в Московской летной школе. Принимал участие в Гражданской войне 1917-1922 гг. С ноября 1919 г. служил летчиком 29-го разведывательного авиаотряда на Восточном фронте. В мае - ноябре 1920 г. был летчиком 2-го авиационного звена Приуральского сектора войск внутренней охраны Республики.
В 1921 г. Михаил Громов вернулся в Московскую авиашколу на должность инструктора. В 1922-1924 гг. руководил отделением боевого применения 1-й Высшей авиационной школы в Москве.
Занимался гимнастикой и бегом, был одним из первых спортсменов-тяжелоатлетов РККА. В 1923 г. завоевал титул чемпиона СССР среди штангистов в тяжелом весе.
В мае - июле 1924 г. занимал пост летчика-инструктора и командира отряда в Высшей военной авиационной школе стрельбы и бомбометания (г. Серпухов Московской губернии, ныне области).
В 1924-1930 гг. был летчиком-испытателем Научно-опытного аэродрома Военно-воздушных сил в Москве (с 1926 г. - Научно-испытательный институт ВВС, ныне - Государственный летно-испытательный центр Минобороны им. В. П. Чкалова). Первым совершил полеты на самолетах У-2 (По-2, 1927), И-4 (1927), И-3 (1928), И-4бис (1928), АНТ-9 (1929), Р-6 (1929) и др. 23 июня 1927 г. в ходе испытаний истребителя И-1 первым в СССР выполнил вынужденный прыжок с парашютом из самолета, вошедшего в плоский штопор.
10-13 июня 1925 г. на почтовом биплане Р-1 вместе с бортмехаником Евгением Родзевичем Михаил Громов участвовал в групповом перелете шести самолетов по маршруту Москва - Пекин (6 476 км за 52 ч летного времени).
31 августа - 2 сентября 1926 г. на опытном самолете АНТ-3 "Пролетарий" с Родзевичем перелетел по маршруту Москва - Кёнигсберг - Берлин - Париж - Рим - Вена - Варшава - Москва (7 150 км, 34 ч 15 мин летного времени).
10 июля - 8 августа 1929 г. на опытном самолете АНТ-9 "Крылья Советов" с бортмехаником В. П. Русаковым выполнил круговой перелет по маршруту Москва - Берлин - Париж - Рим - Марсель - Невер - Лондон - Париж - Берлин - Варшава - Москва (9 037 км, 53 ч летного времени).
В апреле 1930 г. был уволен в запас и направлен в авиационную промышленность для продолжения работ по испытанию самолетов.
В период с 1930 по 1941 г. Михаил Громов занимал пост летчика-испытателя и командира авиаотряда ЦАГИ в Москве. Проводил испытания самолетов Р-7 (1930), И-8 (1930), ТБ-3 (1930), АНТ-14 (1931), ТБ-4 (1933), АНТ-25 (1933), АНТ-20 "Максим Горький" (1934), АНТ-35 (1936), Пе-8 (1936), БОК-15 (1939).
10-12 сентября 1934 г. на экспериментальном самолете АНТ-25 со вторым пилотом Александром Филиным и штурманом Иваном Спириным выполнил рекордный перелет по маршруту Москва - Рязань - Харьков - Москва на расстояние 12 411 км за 75 ч 2 мин. За проявленные в ходе перелета мужество и героизм постановлением ЦИК СССР от 28 сентября 1934 г. Михаилу Громову было присвоено звание Героя Советского Союза с вручением ордена Ленина (после учреждения медали "Золотая Звезда" этот знак с порядковым номером 8 был вручен летчику 4 ноября 1939 г.).
В ноябре 1936 г. вернулся в ряды РККА. 11 сентября 1937 г. Высшая аттестационная комиссия присвоила Михаилу Громову ученое звание профессора по специальности "Техническая эксплуатация самолетов и моторов".
12-14 июля 1937 г. на самолете АНТ-25 со вторым пилотом Андреем Юмашевым и штурманом Сергеем Данилиным совершил рекордный беспосадочный перелет по маршруту Москва - Северный полюс - Сан-Джасинто (штат Калифорния, США) протяженностью 10 148 км по прямой (11 500 км по ломаной линии). Полетное время составило 62 ч 17 мин.
Избирался депутатом Верховного Совета СССР I и II созывов (1937-1946 и 1946-1950 гг.).
В 1939 г. вместе с известной летчицей, Героем Советского Союза Валентиной Гризодубовой ходатайствовал о пересмотре уголовного дела конструктора ракетной техники Сергея Королёва, в результате чего тот был переведен из исправительно-трудового лагеря на Колыме в режимное конструкторское бюро в Москве.
В 1940-1941 гг. Михаил Громов занимал пост начальника Научно-технической группы Наркомата авиационной промышленности СССР. В марте - августе 1941 г. являлся первым руководителем Летно-исследовательского института (ЛИИ), созданного на базе ряда подразделений ЦАГИ и нового аэродрома Раменское в подмосковном пос. Стаханово (ныне Государственный научный центр РФ "Летно-исследовательский институт им. М. М. Громова", г. Жуковский Московской обл.). Участвовал в облетах учебно-тренировочного самолета Г-28 "Кречет", опытного УТ-2 с шасси на воздушной подушке.
После начала Великой Отечественной войны, в августе - декабре 1941 г., находился в правительственной командировке в США по вопросу приобретения Советским Союзом американских самолетов.
С декабря 1941 г. по февраль 1942 г. Михаил Громов командовал 31-й смешанной авиационной дивизией на Калининском фронте, в феврале - мае 1942 г. - военно-воздушными силами Калининского фронта. С мая 1942 г. по май 1943 г. занимал должность командующего 3-й воздушной армией (Калининский фронт). В мае 1943 г. - июне 1944 г. командовал 1-й воздушной армией Западного и 3-го Белорусского фронтов. Соединения под началом Громова участвовали в оборонительной операции в районе г. Белый, а также в Ржевско-Сычёвской, Великолукской, Демянской, Орловской, Спас-Деменской, Смоленской и Витебской операциях.
В 1944-1946 гг. являлся начальником Главного управления боевой подготовки фронтовой авиации ВВС. В 1946-1949 гг. занимал должность заместителя командующего Дальней авиацией.
С мая 1949 г. по июль 1955 г. руководил управлением (с ноября 1954 г. - отделом) летной службы Министерства авиационной промышленности СССР, оставаясь в военном звании и будучи прикомандированным к министерству.
В августе 1955 г. вышел в запас в звании генерал-полковника авиации.
С 1959 по 1961 г. был председателем Федерации тяжелой атлетики СССР. Руководил подготовкой к успешному выступлению советской сборной команды по тяжелой атлетике на XVII летних Олимпийских играх 1960 г. в Риме.
Михаил Громов скончался 22 января 1985 г. в Москве на 86-м году жизни. Похоронен на Новодевичьем кладбище.
Генерал-полковник авиации (1944).
Михаил Громов был награжден четырьмя орденами Ленина (1934, 1945, 1969, 1984), орденом Октябрьской Революции (1979), четырьмя орденами Красного Знамени (1925, 1937, 1944, 1948), орденами Суворова II степени (1943), Отечественной войны I степени (1942), тремя орденами Красной Звезды (1932, 1933, 1967). Был командором ордена Почетного легиона (Франция, 1945). Имел награду Международной авиационной федерации (FAI) - медаль Анри де Лаво (1937, присуждена экипажу АНТ-25 за абсолютный мировой рекорд, установленный в полете из Москвы в Калифорнию).
Заслуженный летчик СССР (1925, почетное звание присвоено за перелет Москва - Пекин), заслуженный мастер спорта СССР (1969). Летчик-испытатель I класса (1940).
В 1986 г. имя Михаила Громова было присвоено ЛИИ, с 2011 г. в институте вручается корпоративная медаль М. М. Громова. Бюсты летчика-испытателя установлены на территории ЛИИ в г. Жуковском, а также в г. Ржеве (Тверская обл.) и г. Щёлково (Московская обл.). В честь Громова названы площадь в Жуковском, улицы во многих городах бывшего СССР, его имя также носит лицей в Киеве (Украина). Мемориальные доски установлены в Москве и Жуковском на зданиях, в которых жил и работал летчик.
Автор книг "Тому, кто хочет летать и работать лучше" (1958), "Через всю жизнь" (1986), "О летной профессии" (1993), "На земле и в небе" (1999).
Был женат на Нине Георгиевне Громовой (урожденная Байскова, 1922-2019). Она была чемпионкой СССР в ряде видов конного спорта, заслуженным мастером спорта России, почетным президентом Федерации конного спорта РФ.
Михаил Громов увлекался верховой ездой, конным спортом и охотой.