Родился 21 ноября 1918 г. в Киеве (ныне - столица Украины) в семье Андрея Михайловича Гмырёва и Ефросиньи Кондратьевны Глузской. Отец был журналистом и поэтом. После его смерти в 1922 г. семья переехала в Москву.
В первой половине 1930-х гг. Михаил Глузский работал электромонтером в Центральном универмаге Мосторга (ныне - Центральный универсальный магазин). Учился в вечерней школе рабочей молодежи, посещал драматический кружок при клубе Мосторга.
В 1940 г. Михаил Глузский окончил Школу киноактера при "Мосфильме", после чего был зачислен в штат данной киностудии. В том же году был призван в армию. Служил в команде при Центральном театре Красной армии (ныне - Центральный академический театр Российской армии, Москва). В годы Великой отечественной войны выступал в составе фронтовых бригад.
В 1946-1994 гг. являлся актером Театра-студии киноактера (ныне Центр театра и кино под руководством Никиты Михалкова, Москва). Был задействован в постановках: "Бесприданница" по пьесе Александра Островского, "Старые друзья" по произведению Леонида Малюгина, "Иван Васильевич" по пьесе Михаила Булгакова, "Бесы" по роману Федора Достоевского, "Остров мира" по пьесе Евгения Петрова.
В 1995-2001 гг. - актер театра "Школа современной пьесы" (с 2023 г. - Театр на Трубной, Москва). Исполнял роли в спектаклях "Уходил старик от старухи" по произведению Семена Злотникова и "Антигона в Нью-Йорке" по пьесе Януша Гловацкого.
Михаил Глузский был широко известен в качестве киноактера. Дебютной для него стала эпизодическая роль гимназиста в фильме Григория Рошаля "Семья Оппенгейм" по роману Лиона Фейхтвангера (1939). Среди наиболее известных работ: есаул Калмыков в драме Сергея Герасимова "Тихий Дон" по роману Михаила Шолохова (1957-1958), санитар Фокич в военном фильме Глеба Панфилова "В огне брода нет" (1967), Иван Меньшиков в фильме Николая Губенко "Пришел солдат с фронта" по мотивам рассказов Сергея Антонова (1971), академик Никодим Сретенский в драме Ильи Авербаха "Монолог" (1972), купец Фрол Прибытков в фильме Петра Тодоровского "Последняя жертва" по пьесе Александра Островского (1975), инженер Виктор Мешков в комедии Петра Фоменко "Почти смешная история" (1977), генерал КГБ Петр Федоров в детективном телесериале Владимира Фокина "ТАСС уполномочен заявить..." по мотивам произведения Юлиана Семенова (1984), генерал Макартур в фильме Станислава Говорухина "Десять негритят" по детективу Агаты Кристи (1987) и др. Последняя роль в кино - дед Авдей в фильме Ярополка Лапшина "На полпути в Париж" (2001). В общей сложности Михаил Глузский снялся в более чем 140 фильмах и сериалах.
Принимал участие в дублировании нескольких десятков иностранных кинокартин. В их числе: "Расёмон" (1950, режиссер Акира Куросава, Япония), "В джазе только девушки" (1958, Билли Уайлдер, США), "Клеопатра" (1963, Рубен Мамулян и др., США - Великобритания), "Самозванец с гитарой" (1966, Ежи Пассендорфер, Польша), "Вальтер защищает Сараево" (1972, Хайрудин Крвавац, Югославия), "Ураган" (1979, Ян Труэль, США), "Невезучие" (1981, Франсис Вебер, Франция) и др.
Михаил Глузский работал на радио, выступал с чтецкими программами.
В 1986-1991 гг. был секретарем правления Союза кинематографистов СССР, председателем Московской городской комиссии по культурному шефству над Вооруженными силами СССР.
В 1989-1996 гг. преподавал во Всероссийском государственном институте кинематографии им. С. А. Герасимова (до 1992 г. - Всесоюзный государственный институт кинематографии им. С. А. Герасимова). Профессор (1994).
Михаил Глузский скончался 15 июня 2001 г. в Москве на 83-м году жизни. Похоронен на столичном Ваганьковском кладбище.
Народный артист СССР (1983).
Был награжден орденами Трудового Красного Знамени (1989), "За заслуги перед Отечеством" III степени (1998), медалью "За победу над Германией в Великой Отечественной войне 1941-1945 гг." (1945). Отмечен благодарностью президента РФ (1995).
Лауреат Государственной премии РСФСР им. братьев Васильевых (1973), кинопремии "Ника" в категории "Лучшая роль второго плана" (1997, за роль в фильме Мурада и Рустама Ибрагимбековых "Мужчина для молодой женщины") и в почетной номинации "Честь и достоинство" (1999).
Был женат на театроведе Екатерине Павловне Перегудовой (1927-2003). Имел сына Андрея (1951-2011; выпускник Школы-студии МХАТ) и дочь Марию.