Родился 3 июня 1881 г. (22 мая 1881 г. по старому стилю) близ г. Тирасполя Херсонской губернии (ныне столица непризнанной Приднестровской Молдавской республики) в семье военного фельдшера Федора Михайловича Ларионова и Александры Федосеевны Петровской. В 1891 г. семья переехала в Москву, где Михаил Ларионов поступил в реальное училище педагога Константина Воскресенского.
В 1898 г. был принят в Московское училище живописи, ваяния и зодчества. С 1902 г. занимался на живописном отделении у Константина Коровина, Леонида Пастернака, Валентина Серова. Трижды был исключен из училища за пропуски занятий и из-за конфликтов с преподавателями, но восстановлен. В итоге закончил обучение в 1910 г. В годы учебы Михаил Ларионов познакомился с художницей Натальей Гончаровой (1881-1962), ставшей впоследствии его единомышленницей и супругой.
В 1904 г. на ученической выставке Московского училища живописи, ваяния и зодчества десять пастелей художника приобрел коллекционер Иван Трояновский. Позднее пастель "Сад весной" (1905) была куплена Иваном Морозовым.
В 1908 г. Ларионов сотрудничал с художественным и литературно-критическим журналом "Золотое руно". Вместе с Натальей Гончаровой преподавал в частной художественной школе Ильи Машкова и Александра Михайловского.
В 1910-1911 гг. находился на военных сборах в Москве и Санкт-Петербурге.
Ларионов активно принимал участие в выставках объединения "Мир искусства", Союза русских художников, Московского товарищества художников. Экспонировался в Москве, Петербурге, Киеве. В 1906 г. по приглашению одного из создателей "Мира искусства" Сергея Дягилева участвовал в парижской выставке "Два века русской живописи и скульптуры", организованной в залах Общества осенних салонов. Полотна молодого художника были представлены вместе с работами таких живописцев, как Михаил Врубель, Константин Сомов, Лев Бакст, Борис Кустодиев и др.
В 1900-1910-х гг. Михаил Ларионов работал в стиле позднего импрессионизма. Затем, под влиянием фовизма и наивного искусства, обратился к неопримитивизму. В 1907 г. создал ряд полотен в т. н. вывесочном стиле, источником которого послужили вывески на лавках и кафе Тирасполя, где Ларионов проводил каждое лето. Среди его работ этого периода - "Розовый куст после дождя", "Акации весной" (обе - 1904), "Дождь" (1905), "Павлин" (1907), "Волы на отдыхе" (1908), "Купальщицы на закате" (1908), "Хлеб" (около 1910), "Прогулка в провинциальном городе", "Офицерский парикмахер" (около 1909 г.), "Автопортрет в тюрбане" (1909) и др.
В 1910 г. Михаил Ларионов и Наталья Гончарова вошли в число организаторов и участников выставки представителей авангардного искусства "Бубновый валет". Спустя год на ее основе было создано одноименное общество художников - самое крупное творческое объединение раннего авангарда. Члены группы, среди которых были Петр Кончаловский, Илья Машков, Аристарх Лентулов, Казимир Малевич, Василий Кандинский, Давид Бурлюк и др., выступали против традиционного искусства, отдавая предпочтение концепции формализма, согласно которой художественная ценность произведения заключена не в его идее, а в его форме.
Сотрудничество Ларионова с "Бубновым валетом" продолжалось два года. Отдавая предпочтение традициями русского наивного искусства, в 1912 г. он вышел из группы, члены которой ориентировались на европейскую живопись начала XX века (Петр Кончаловский, Роберт Фальк, Александр Куприн). Михаил Ларионов и Наталья Гончарова объединили вокруг себя сторонников неопримитивизма (Казимир Малевич, Александр Шевченко, Кирилл Зданевич и др.), целью которых была популяризация русского современного искусства.
Весной 1912 г. они организовали в Москве выставку "Ослиный хвост". Центральное место в экспозиции занимали полотна Ларионова, выполненные в примитивистском стиле, который был выражен в форме крайнего гротеска: с нарочито упрощенным сюжетом, нарушением пропорций и др. Среди представленных им 40 картин - "Турок" (1911-1912), "Дамский парикмахер " (1910-1911), "Собственный портрет" (1910), а также т. н. солдатская серия ("Утро в казармах", 1910; "Отдыхающий солдат", 1911-1912) и др. В числе работ Натальи Гончаровой были тетраптих "Четыре апостола" (в связи с цензурным запретом снят с выставки, демонстрировался отдельно), сцены из крестьянской жизни, натюрморты, картины "Художественные возможности по поводу павлина", выполненные в разных стилях, и пр.
В том же году Ларионова создал серии "Венеры" и "Времена года", которые, по мнению искусствоведов, ознаменовали завершение периода наивного искусства в его творчестве.
Весной 1913 г. он организовал выставку "Мишень", где представил доклад о концепции нового художественного направления, получившего название "лучизм". Теория лучизма была опубликована в виде брошюры, затем выпущен манифест "Лучисты и будущники", который провозгласил "стиль лучистой живописи, свободной от реальных форм". Сторонники лучизма выступали за передачу на холсте изображений не реальных предметов, а отраженных от них лучей. Согласно концепции Ларионова, каждый предмет отражает лучи, на пересечении которых возникают определенные формы. Именно они представляют интерес для художника. При передаче таких лучистых форм главными становятся свет и "комбинация цвета, его насыщенность, фактура". Лучизм стал одним из первых радикально беспредметных течений русского искусства. Среди работ Ларионова этого периода - "Петух" (1912), "Стекло" (1912), "Лучистая колбаса и скумбрия" (1912), "Голова быка" (1913), "Ноктюрн" (1913-1914) и др. В 1914 г. в Париже прошла выставка "лучистых картин" Ларионова, а также Гончаровой, предисловие к каталогу которой написал французский поэт, критик Гийом Аполлинер, один из наиболее влиятельных деятелей европейского авангарда начала XX века.
Михаил Ларионов занимался иллюстрацией произведений поэтов-футуристов (Алексей Крученых, Велимир Хлебников), участвовал в оформлении театральных постановок.
В январе 1914 г. вышел немой художественный фильм Владимира Касьянова "Драма в кабаре футуристов №13", в котором снялись Ларионов и Гончарова (в настоящее время считается утраченным).
Весной 1914 г. в Москве в помещении Общества любителей художеств Михаил Ларионов организовал четвертую выставку под названием "№4. Футуристы, лучисты и примитив", в которой участвовали также Иван Бобков, Тимофей Богомазов, Кирилл Зданевич, Василий Каменский, Михаил Ле-Дантю и др. В мае того же года Ларионов и Гончарова вместе с труппой Сергея Дягилева уехали во Францию, где занимались оформлением спектаклей "Русских сезонов". С началом Первой мировой войны вернулись в Россию. Михаил Ларионов был призван на военную службу, но вскоре получил контузию в ходе боев в Восточной Пруссии и был комиссован.
Летом 1915 г. по приглашению Дягилева Ларионов и Гончарова вновь уехали за границу, на родину они больше не вернулись.
В 1915-1917 гг. художники участвовали в гастролях дягилевского балета по Швейцарии, Италии, Испании, после чего окончательно поселились во Франции.
За границей Ларионов долгое время работал как театральный декоратор, сценограф, автор костюмов. В частности, он занимался оформлением постановок балетов "Полуночное солнце" (1915), "Кикимора" (1916), "Русские сказки" (1917; совм. с Н. Гончаровой) и др. В 1921 г. выступил также в качестве одного из хореографов балета "Шут" на музыку Сергея Прокофьева. В 1920-1930-е гг работал над книгой по истории балета.
Михаил Ларионов занимался также книжной графикой и иллюстрацией ("Двенадцать", "Скифы" Александра Блока, "Необычайное приключение, бывшее с Владимиром Маяковским летом на даче" Владимира Маяковского и др.). Принимал участие в организации советского отдела на Международной выставке декоративных искусств в Париже в 1925 г., был одним из кураторов Выставки современного французского искусства в Москве в 1928 г.
В поздний период художник отдавал предпочтение графике, одновременно продолжая эксперименты по поиску "равновесия между предметным и беспредметным", продолжал успешно экспонироваться. Активно занимался коллекционированием литературы по истории театра, костюма и декораций, книг по искусству, фотографий, литографий, гравюр и др.
В 1920-х гг. художник расстался с Натальей Гончаровой, однако их творческий союз сохранился. В 1955 г. они официально зарегистрировали брак, чтобы легализовать совместное владение имуществом. В 1963 г., после смерти Гончаровой, Михаил Ларионов женился на своей помощнице Александре Клавдиевне Томилиной. Она стала наследницей архива и коллекции Ларионова и Гончаровой.
Художник скончался 10 мая 1964 г. в парижском пригороде Фонтене-о-Роз. Был похоронен на кладбище в Иври-сюр-Сен рядом с Натальей Гончаровой. Там же в 1987 г. была похоронена и Александра Томилина-Ларионова.
В 1980 г., благодаря второй супруге художника, в Русском музее и Третьяковской галерее были организованы выставки, впервые представившие произведения Ларионова, хранившиеся в России и Франции. В 1989-1990 гг., согласно воле художника и его вдовы, часть библиотеки, архива и коллекции произведений Ларионова и Гончаровой были переданы Государственной Третьяковской галерее. В 1999 г. в музее состоялись живописная и графическая выставки, посвященные показу этого дара.
Картины Ларионова хранятся в русских, европейских и американских музеях и частных коллекциях (в Государственной Третьяковской галерее, Национальном центре искусства и культуры Жоржа Помпиду в Париже, Музее Виктории и Альберта в Лондоне и др.). В 2018-2019 гг. в Новой Третьяковке (Москва, Крымский Вал) прошла большая ретроспективная выставка художника.
Именем Михаила Ларионова названы улицы в Тирасполе (2016) и Москве (2018).