Родился 5 августа 1930 г. в Нижнем Новгороде в семье Николая Ивановича и Александры Ивановны Зиминых. Его отец был заводским рабочим, мать вела домашнее хозяйство.
В середине 1940-х гг. Михаил Зимин работал слесарем на военном заводе.
В 1951 г. окончил Горьковское театральное училище (ныне Нижегородское театральное училище им. Е. А. Евстигнеева).
В 1951-1952 гг. был актером Горьковского театра драмы им. М. Горького (ныне Нижегородский государственный академический театр драмы им. М. Горького).
В 1952 г. был принят на третий курс Школы-студии им. Вл. И. Немировича-Данченко при Московском художественном академическом театре СССР им. М. Горького (ныне Школа-студия, институт, им. Вл. И. Немировича-Данченко при Московском художественном театре им. А. П. Чехова).
Окончив ее в 1954 г., Михаил Зимин стал актером МХАТ им. М. Горького. В 1957-1958 гг. также участвовал в работе Студии молодых актеров под руководством Олега Ефремова (ныне Московский театр "Современник"), играл в постановке "Вечно живые" по пьесе Виктора Розова. На мхатовской сцене исполнял роли в спектаклях: "Мещане" по произведению Максима Горького, "Битва в пути" по роману Галины Николаевой, "Иду на грозу" по произведению Даниила Гранина, "Дядя Ваня" по пьесе Антона Чехова, "Дни Турбиных" по произведению Михаила Булгакова, "Кола Брюньон" по повести Ромена Роллана, "Мертвые души" по произведению Николая Гоголя, "Горячее сердце" по комедии Александра Островского, "Эльдорадо" по пьесе Аллы Соколовой.
В 1987 г., после разделения труппы театра, вошел в коллектив под руководством народной артистки СССР Татьяны Дорониной (театр на его основе сохранил историческое название МХАТ им. М. Горького). Был задействован в спектаклях "Вишневый сад" по пьесе Антона Чехова и "Макбет" по произведению Уильяма Шекспира.
Михаил Зимин снимался в кино. Дебютной для него стала роль Ромашкина в приключенческой драме "Золотой эшелон" (1959, режиссер Илья Гурин). Также снимался в фильмах: "Доживем до понедельника" (1968, Станислав Ростоцкий), "Белый Бим Черное Ухо" (1976, Станислав Ростоцкий), "Москва слезам не верит" (1979, Владимир Меньшов), "Частная жизнь" (1982, Юлий Райзман).
Михаил Зимин скончался 30 декабря 1991 г. в Москве на 62-м году жизни. Похоронен на Востряковском кладбище.
Народный артист СССР (1991).
Был награжден орденом Трудового Красного Знамени (1971).
Был дважды женат. Первая супруга - народная артистка РСФСР Светлана Мизери (род. 1933). Дочь - заслуженная артистка РФ, актриса Московского драматического театра "Сопричастность" Мария Зимина (род. 1963). Второй женой была актриса Светлана Семендяева (род. 1943). Сын - Михаил Зимин (род. 1968).