Родился 30 октября 1890 г. в Томске в семье Михаила Михайловича и Марии Федоровны Черемных. Его отец, отставной полковник царской армии, скончался через полтора года после рождения сына. Воспитанием ребенка занималась мать.
После окончания гимназии Михаил Черемных поступил на медицинский факультет Томского университета, однако не завершил обучение. Посещал уроки рисования живописца Семена Прохорова, который преподавал в Томском обществе любителей художеств. Первый рисунок Михаила Черемных, опубликованный в томском журнале "Сибирская новь" в январе 1910 г., представлял собой карикатуру на его педагогов по гимназии.
В 1911 г. Михаил Черемных переехал в Москву. Непродолжительное время занимался в студии художника Ильи Машкова - одного из основателей художественного объединения "Бубновый валет".
В 1911-1917 гг. посещал занятия в Московском училище живописи, ваяния и зодчества (МУЖВЗ). Его педагогами были художники Константин Коровин и Сергей Малютин. В годы обучения в МУЖВЗ Михаил Черемных рисовал шаржи на популярных артистов и карикатуры по международной проблематике в газетах "Раннее утро" и "Вечерние известия" (первая карикатура - "Турки сами, не дожидаясь царя Фердинанда, хотят "ставить крест" св. Софии" - опубликована 1 ноября 1912 г.).
С детства у Черемных был хороший слух и голос, он увлекался игрой на гитаре. В 1918 г. по предложению помощника наркома имуществ РСФСР Николая Виноградова он был приглашен настраивать куранты на Спасской башне Кремля. По указанию председателя Совета народных комиссаров РСФСР Владимира Ленина куранты должны были исполнять гимн рабочего движения и официальный гимн РСФСР (1918-1944) - "Интернационал", а также похоронный марш "Вы жертвою пали". Черемных написал партитуру для барабана курантов. 8 августа 1918 г. комиссия Моссовета приняла его работу. В 1932 г. вторично настраивал куранты Московского кремля (в качестве мелодии был оставлен только "Интернационал", который исполнялся до 1937 г.).
С 1918 по 1919 г. выполнял сатирические рисунки и политические карикатуры для газет и журналов "Коммунар", "Беднота", "Вечерние известия Московского Совета". Создал серию агитационных плакатов, среди которых "...Надо быть готовым", "Тов. Ленин, сметающий хлам с лица земли" и др. Одновременно работал над серией сатирических рисунков и текстов на темы истории России для издательства Всероссийского центрального исполнительного комитета (ВЦИК) - "Откуда пошли на Руси цари, попы да помещики" и "Как народ за волю боролся" (при передаче дел издательства ВЦИК Госиздату рисунки и текст были потеряны).
В 1919 г. Михаил Черемных, принимавший участие в выпуске печатной стенной газеты Российского телеграфного агентства (РОСТА, ныне ТАСС), предложил ответственному руководителю организации Платону Керженцеву (1881-1940) создать сатирический журнал-плакат с рисунками и стихами на актуальные политические темы и вывешивать его в витринах магазинов.
Первое "Окно сатиры РОСТА" не сохранилось, однако известно, что оно было посвящено наступлению на Москву войск главнокомандующего Вооруженными силами Юга России Антона Деникина и поражению коммунистов в Венгрии. Оно содержало карикатуры, сатирические стихи и фельетоны. Плакат подготовили Михаил Черемных и поэт Николай Иванов-Грамен (1885-1961). После одобрения Платоном Керженцевым в конце сентября 1919 г. он был размещен в витрине бывшего магазина "Фабрично-торгового товарищества А. И. Абрикосова сыновей" на углу Тверской улицы и Чернышёвского переулка.
С "Окнами РОСТА" также сотрудничали поэт Владимир Маяковский, художник Иван Малютин и др. Черемных был назначен заведующим художественной частью "Окон РОСТА", занимал эту должность до 1922 г.
В 1922 г. Михаил Черемных стал одним из основателей литературно-художественного иллюстрированного сатирического журнала "Крокодил" (входил в состав его первой редколлегии). В качестве карикатуриста сотрудничал с ним на протяжении 40 лет.
В 1920-1930-х гг. его работы публиковали журналы "Заноза", "Лапоть", "Смехач", "Красный перец", "Безбожник" (в двух последних заведовал художественной частью). Художник также рисовал агитационные плакаты, в том числе для "Окон ИЗОГИЗа" (Государственного издательства изобразительных искусств, 1930).
В 1930-е гг. выполнял плакаты на антирелигиозную тематику. В 1933 г. была издана "Антирелигиозная азбука" с его иллюстрациями.
В 1934-1935 гг. Михаил Черемных руководил Центральной художественной мастерской на строительстве канала Москва - Волга (ныне канал имени Москвы). В течение этого времени организовал художественную студию и мастерские в г. Дмитрове (Московская область), где создавались и тиражировались с помощью трафаретов плакаты и лозунги. В 1935 г. был избран депутатом Дмитровского городского совета.
В 1938 г. художник создал плакат "Чтоб из этой лапы выпал нож - антифашистского фронта силы множь!", получивший международную известность.
В 1939-1941 гг. Михаил Черемных выступал как театральный художник. Оформлял спектакли в Государственном академическом Малом оперном театре (Ленинград; ныне Санкт-Петербургский государственный академический театр оперы и балета им. М. П. Мусоргского - Михайловский театр), Театре оперы и балета в Минске (ныне Большой театр Беларуси).
После начала Великой Отечественной войны Михаил Черемных вместе с художниками Борисом Ефимовым, Николаем Радловым, Кукрыниксами (Михаил Куприянов, Порфирий Крылов и Николай Соколов), поэтами Самуилом Маршаком, Константином Симоновым, Василием Лебедевым-Кумачом и др. принимал участие в работе над "Окнами ТАСС" (серия агитационных плакатов с призывами к защите Родины). Первый плакат из этой серии появился в Москве в витринах магазинов на Кузнецком мосту 27 июня 1941 г., в дальнейшем плакаты стали выходить ежедневно. По трафаретам, вырезанным из оригиналов, вручную были изготовлены сотни оттисков, которые рассылались по всему СССР и в двадцать зарубежных стран.
Осенью 1941 г. Михаил Черемных был эвакуирован в пос. Очёр (ныне город на территории Пермского края), затем в г. Бийск (Алтайский край), где продолжал работу над агитационными плакатами. Также сотрудничал с местным драматическим театром, создал декорации к спектаклям: "Дворянское гнездо" по роману Ивана Тургенева, "Осада Лейдена" по произведению Исидора Штока, "Русские люди" по пьесе Константина Симонова. В 1943 г. вернулся в Москву, где возобновил работу в коллективе "Окон ТАСС".
В 1949-1962 гг. Михаил Черемных преподавал в Московском государственном художественном институте им. В. И. Сурикова Академии художеств СССР (ныне Московский государственный академический художественный институт им. В. И. Сурикова при Российской академии художеств). В 1950-1954 гг. руководил мастерской плаката, в 1954-1962 гг. заведовал кафедрой графики. Профессор (1950).
С 1954 г. Михаил Черемных являлся членом-корреспондентом, с 1958 г. - действительным членом Академии художеств СССР.
Его работы находятся в Государственной Третьяковской галерее, Государственном музее изобразительных искусств им. А. С. Пушкина, Центральном музее Вооруженных сил РФ, Государственном музее истории религии (Санкт-Петербург), Курской государственной картинной галерее им. А. А. Дейнеки и др.
Михаил Черемных скончался 17 августа 1962 г. в Москве на 72-м году жизни. Его прах захоронен в колумбарии столичного Новодевичьего кладбища.
Народный художник РСФСР (1952).
Был награжден орденом "Знак Почета", медалями.
Лауреат Сталинской премии II степени (1942).
Был дважды женат. Первая супруга - Раиса Дмитриевна Виноградова. Второй женой была Нина Александровна Черемных. Она выполнила стихотворные подписи ко многим рисункам мужа. В 1965 г. вышла ее книга воспоминаний о Михаиле Черемных "Хочется, чтобы знали и другие...".