Родился 30 августа 1918 г. в селе Крюковка Нижегородской губернии (ныне – Нижегородская область) в крестьянской семье, был младшим из семи сыновей. В 1925 г. начал заниматься музыкой в Доме пионеров, где научился играть на нескольких народных инструментах, выступал в самодеятельном оркестре.
В 1939 г. окончил Центральный музыкальный техникум (ныне – Санкт-Петербургское музыкальное училище) им. М. П. Мусоргского. Первоначально изучал игру на 4-струнной домре, однако затем перевелся на отделение балалайки. В 1953 г. завершил обучение на факультете народных инструментов Московского музыкально-педагогического института (ныне - Российская академия музыки) им. Гнесиных по классу балалайки (педагог - Александр Илюхин).
В 1939 г., окончив техникум, Михаил Рожков приехал в Москву, где был призван на военную службу в ансамбль Центрального Дома Красной Армии, выступал в качестве солиста-балалаечника. В годы Великой Отечественной войны 1941-1945 гг. выступал вместе с ансамблем в частях действующей армии, в том числе на передовой. В 1945-1946 гг. возглавлял этот коллектив.
С 1946 г., после демобилизации, работал в Москонцерте, создал вместе с Геннадием Быковым дуэт балалаек. В послевоенные годы была записана первая пластинка Михаила Рожкова. В тот же период музыкант познакомился с популярным советским эстрадным исполнителем, актером Леонидом Утесовым, который помог организовать его выступления на лучших эстрадных площадках страны.
Михаил Рожков включал в свои программы русские народные песни, классику, произведения современных композиторов, обработки популярных советских песен. Каждое выступление он сопровождалось рассказом об истории инструмента. Музыкант соединял балалайку в дуэте с различными инструментами. В 1956 г. вместе с Георгием Меняевым (1912-1972) создал профессиональный дуэт балалайки и гитары. Выступления дуэта транслировались Центральным телевидением СССР в передаче "Музыкальные встречи". В дальнейшем Михаил Рожков выступал соло, а также в сопровождении оркестра русских народных инструментов "Боян", с пианисткой Светланой Сорокиной, затем с гитаристом Юрием Черновым.
В 1990-2010-х гг. концертировал в составе Национального академического оркестра народных инструментов России им. Н. П. Осипова.
Михаил Рожков скончался 18 июня 2018 г. в Москве в возрасте 99 лет. Похоронен на столичном Троекуровском кладбище.
Дирижер Роберт фон Караян назвал Михаила Рожкова "Паганини русской балалайки". Поклонниками творчества исполнителя были советские актеры Любовь Орлова, Борис Андреев, Петр Глебов, певица Анна Герман и др.
Партии балалайки в исполнении музыканта можно услышать более чем в 50 фильмах, в числе которых "Простая история" (1960), "Течет Волга" (1962), "Война и мир" (1965-1967), "А зори здесь тихие..." (1972) и др.
Был награжден орденами "За заслуги перед Отечеством" IV степени (1998), Отечественной войны II степени, медалями "За боевые заслуги", "За взятие Кенигсберга".
Народный артист РФ (1994).
Лауреат I Всероссийского конкурса мастеров эстрадного искусства (1959).
Был дважды женат. От первого брака имел сына Владимира.