Родился 21 сентября 1946 г. в Ленинграде (ныне Санкт-Петербург) в семье историков. Отец, Валентин Михайлович, работал научным сотрудником ленинградского отделения Института истории Академии наук СССР (ныне Институт всеобщей истории РАН). Мать, Мирьям Абрамовна, преподавала историю в Ленинградском государственном университете.
В школьные годы Михаил Ковальчук увлекался искусством. Заинтересовался физикой в десятом классе после того, как прочел книгу американского математика и философа Норберта Винера "Кибернетика, или управление и связь в животном и машине".
В 1970 г. окончил физический факультет Ленинградского государственного университета (ныне Санкт-Петербургский государственный университет, СПбГУ). Его дипломная работа была посвящена новому научному направлению - изучению динамического рассеивания рентгеновских лучей в совершенных кристаллах и созданию на этой основе новых методов диагностики полупроводниковых кристаллов.
Доктор физико-математических наук. В 1978 г. в Институте кристаллографии им. А. В. Шубникова Академии наук (АН) СССР (ныне Институт кристаллографии им. А. В. Шубникова Российской академии наук, РАН, Москва) защитил кандидатскую диссертацию по теме "Метод трехкристального рентгеновского спектрометра и исследование структурного совершенства тонких кристаллических слоев". В 1988 г. защитил докторскую диссертацию по теме "Метод стоячих рентгеновских волн в исследовании структуры приповерхностных слоев полупроводников".
Профессор (1998).
В 2000 г. Михаил Ковальчук был избран членом-корреспондентом РАН по Отделению физических наук. В настоящее время является членом Отделения нанотехнологий и информационных технологий РАН.
После окончания университета начал работать стажером-исследователем в Институте кристаллографии (ИК) им. А. В. Шубникова АН СССР, где продолжил развивать тему своей дипломной работы.
В 1970-1980-е гг. совершил ряд зарубежных поездок по обмену опытом в области синхротронного излучения. В соавторстве с другими отечественными учеными развил принципиально новый метод изучения структуры вещества, основанный на сочетании возможностей рентгеновской дифракции и спектроскопии, - метод стоячих рентгеновских волн, имеющий практическое значение для исследования наносистем.
В 1987 г. создал в ИК им. А. В. Шубникова АН СССР и возглавил лабораторию рентгеновской оптики и синхротронного излучения. С 1998 г. по май 2013 г. был директором Института кристаллографии им. А. В. Шубникова РАН.
Одновременно в 1999 г. стал директором-организатором Курчатовского центра синхротронных исследований (КЦСИ), создание которого инициировал президент Российского научного центра "Курчатовский институт" (ныне Национальный исследовательский центр "Курчатовский институт") академик Евгений Велихов. Коллективом во главе с Михаилом Ковальчуком был завершен проект создания специализированного синхротрона - Курчатовского источника синхротронного излучения ("КИСИ-Курчатов"), который был введен в эксплуатацию в октябре 1999 г. Кроме того, под руководством Ковальчука в КЦСИ было создано новое поколение прецизионного (высокоточного) рентгеновского оборудования мирового класса.
В 2005 г. был назначен директором Российского научного центра "Курчатовский институт" (президентом центра являлся Евгений Велихов). Под руководством Михаила Ковальчука в 2010 г. Курчатовский институт был преобразован в национальный исследовательский центр.
В июне 2007 г. президиум РАН на своем закрытом заседании назначал Михаила Ковальчука и. о. вице-президента академии. СМИ предполагали, что в мае 2008 г. на общем собрании РАН он будет избран действительным членом (академиком) и займет данный пост на постоянной основе, однако этого не произошло.
В 2009 г. по его инициативе на базе "КИСИ-Курчатов" был создан Курчатовский центр конвергентных нано-, био-, инфо-, когнитивных и социогуманитарных наук и технологий (Курчатовский НБИКС-центр). Ковальчук осуществляет научное руководство центром.
С декабря 2015 г. Михаил Ковальчук является президентом Национального исследовательского центра "Курчатовский институт". Сменил на этом посту Евгения Велихова, который стал почетным президентом центра.
Помимо научной, Ковальчук занимается преподавательской деятельностью. В 2005 г. на физическом факультете Московского государственного университета (МГУ) им. М. В. Ломоносова он основал и возглавил кафедру физики наносистем (с 2014 г. - кафедра оптики, спектроскопии и физики наносистем).
Был первым деканом факультета нано-, био-, информационных и когнитивных технологий (НБИК-технологий) Московского физико-технического института, государственного университета (МФТИ). Занимал эту должность с мая 2009 г. по январь 2013 г. Затем в феврале 2013 г. стал научным руководителем этого факультета (ныне Институт нано-, био-, информационных, когнитивных и социогуманитарных наук и технологий, ИНБИКСТ). Одновременно, с момента создания в июне 2010 г., возглавляет кафедру НБИК, ныне действующую в составе ИНБИКСТ.
Является деканом физического факультета СПбГУ (с 2012 г.), заведует кафедрой ядерно-физических методов исследования этого факультета.
В июне 2023 г. был назначен президентом Политехнического музея (Москва).
Председатель Национального комитета кристаллографов России (с 2010 г.), главный редактор журналов "Кристаллография" РАН (с 2006 г.), "Российские нанотехнологии" (с 2019 г.). Входит в состав международного управляющего комитета глобального научного проекта по созданию европейского рентгеновского лазера на свободных электронах XFEL в Гамбурге (Германия).
Член президиума Совета при президенте РФ по науке и образованию (с 2001 г.), научно-технического совета госкорпорации "Росатом", совета директоров фонда "Сколково".
Член комиссии генсовета партии "Единая Россия" по образованию и науке (с ноября 2021 г.).
Михаил Ковальчук - ведущий ученый в области рентгеновской физики, кристаллографии и нанодиагностки, один из идеологов и организаторов развития нанотехнологий в России.
Автор и соавтор более 250 научных работ, а также 13 патентов. Среди них книги "Идеология нанотехнологий" (2010), "Наука и жизнь: моя конвергенция" в двух томах (2011), "Основы динамической высокоразрешающей дифрактометрии функциональных материалов" (2013, соавтор), научные статьи "Конвергенция наук и технологий - прорыв в будущее" (2011), "Сколько лет меганауке?" (2012), "От атомного проекта к "конвергенции" (2013) и др.
Автор и ведущий научно-популярных телепрограмм: "Истории из будущего с Михаилом Ковальчуком" (выходит в эфир с 2007 г.) на Пятом канале и "Картина мира с Михаилом Ковальчуком" на телеканале "Россия Культура" (с 2019 г.).
Полный кавалер ордена "За заслуги перед Отечеством" (I степень - 2018, II - 2016, III – 2011, IV - 2006). Имеет почетную грамоту (2006) и благодарность (2011) правительства России.
Лауреат премий правительства РФ 2006 г. в области науки и техники ("за создание научно-технического комплекса на базе специализированных источников синхротронного излучения "Сибирь" в Российском научном центре "Курчатовский институт") и 2012 г. в области образования ("за работу "Создание инновационной научно-образовательной системы междисциплинарной подготовки кадров в области конвергентных нано-, био-, информационных и когнитивных технологий").
В число его наград входит премия им. Е. С. Федорова РАН (2009; за "цикл работ по разработке метода стоячих рентгеновских волн и его использованию для исследования структуры кристаллов").
Является иностранным членом Национальной академии наук Белоруссии (2021), почетным профессором МГУ (2016) и Российского научного центра хирургии им. академика Б. В. Петровского (2021).
Женат. Супруга - Елена Юрьевна Полякова, историк, дочь академика РАН Юрия Полякова. Сын - Кирилл (род. 1968), являлся председателем совета директором холдинга "Национальная медиа группа". Младший брат - Юрий Ковальчук (род. 1951), основной акционер банка "Россия".
Увлекается поэзией, философией, историей и архитектурой Санкт-Петербурга.