Родился 3 октября 1953 г. в Ленинграде (ныне Санкт-Петербург). Отец – Юрий Григорьевич Зурабов – высокопоставленный сотрудник Министерства морского флота СССР, разработчик международной космической системы аварийного спасения судов и самолетов "КОСПАС-САРСАТ". Мать – Энгелина Робертовна – доктор биологических наук, ученый-микробиолог.
Учился в Ленинградском институте водного транспорта (ныне Санкт-Петербургский госуниверситет водных коммуникаций), в 1971 г. перевелся в Московский институт управления им. Серго Орджоникидзе (ныне Государственный университет управления), который окончил в 1975 г. по специальности "экономист-кибернетик".
В 1975-1978 гг. – инженер, ассистент кафедры экономической кибернетики Московского института управления им. Серго Орджоникидзе.
С 1978 по 1981 г. – аспирант Всесоюзного научно-исследовательского института системных исследований.
В 1982 г. – преподаватель Московского монтажного техникума, затем инженер института "Оргтехстрой-11" в Москве.
С 1983 по 1988 г. – старший научный сотрудник, начальник отраслевой лаборатории Научно-исследовательского и конструкторского института монтажной технологии. В 1986 г. принимал участие в ликвидации последствий аварии на Чернобыльской АЭС. В ходе работы познакомился с Евгением Адамовым, ученым-атомщиком, руководителем Научно-исследовательского и конструкторского института энерготехники, будущим министром атомной промышленности РФ.
В 1988-1993 гг. – заместитель начальника треста "Моспромтехмонтаж".
В 1990 г. был директором Конверсбанка, учредителем которого являлось Министерство атомной промышленности СССР.
С 1992 по 1998 г. – генеральный директор Московской акционерной страховой компании (АО "МАКС"). С 1994 по 1998 г. – генеральный директор Медицинской акционерной страховой компании (АО "МАКС-М").
С мая по ноябрь 1998 г. – первый заместитель министра здравоохранения РФ. Ведомство в этот период последовательно возглавляли Олег Рутковский и Владимир Стародубов.
С октября 1998 г. по май 1999 г. Михаил Зурабов работал в Администрации президента РФ, был советником главы государства Бориса Ельцина по социальным вопросам.
С 27 мая 1999 г. по 6 марта 2004 г. – председатель правления Пенсионного фонда РФ. В 2002 г. под руководством Зурабова была начата реформа: распределительная пенсионная система заменена на накопительную, при которой пенсионные средства могли быть переданы в управление частным компаниям.
С 9 марта 2004 г. по 24 сентября 2007 г. – министр здравоохранения и социального развития РФ в правительстве Михаила Фрадкова, затем Виктора Зубкова. Являлся одним из главных инициаторов реформы по монетизации льгот (замены натуральных льгот денежными компенсациями), проведенной правительством РФ в 2005 г.
13 мая 2008 г. вернулся на работу в Администрацию президента РФ, до 5 августа 2009 г. был советником президента РФ Дмитрия Медведева.
С 5 августа 2009 г. по 28 июля 2016 г. - чрезвычайный и полномочный посол РФ на Украине. С 19 января 2010 г. по 4 августа 2016 г. был специальным представителем президента РФ по развитию торгово-экономических отношений с Украиной.
С июня 2014 г. по апрель 2015 г. - специальный представитель РФ в Контактной группе по урегулированию ситуации на Украине. В качестве представителя РФ подписал Минские соглашения от 5 сентября 2014 г., а также Комплекс мер по выполнению Минских соглашений (т. н. вторые Минские соглашения) от 12 февраля 2015 г.
Действительный государственный советник РФ II класса (2007).
Чрезвычайный и полномочный посол (2011).
Награжден орденом "За заслуги перед Отечеством" IV степени (2003). Имеет благодарность правительства РФ (2001).