Родился 4 июня 1867 г. в имении Лоухисаари близ г. Або (ныне – Турку) Або-Бьёрнеборгской губернии Великого княжества Финляндского (до 1917 г. было частью Российской империи; ныне - Финляндская Республика) в аристократической семье. Его отец – барон Карл Роберт Маннергейм (1835-1914), был крупным предпринимателем и землевладельцем, мать - графиня Хедвига Шарлотта Хелена фон Юлин (1842–1881), также происходила из семьи предпринимателей.
По национальности – швед. Род Маннергеймов происходил от немецкого купца, переселившегося в XVII в. в Швецию.
В 1882-1886 гг. учился в Финляндском кадетском корпусе (г. Фридирихсгам; ныне – г. Хамина, Финляндия), был исключен за нарушение дисциплины. В 1889 г. окончил Николаевское кавалерийское училище в Санкт-Петербурге.
С 1887 по 1917 г. служил в Русской императорской армии: в 1889-1890 гг. - в 15-м драгунском Александрийском полку, в 1890-1903 гг. – в Кавалергардском полку. С 1897 г. состоял для особых поручений при управляющем Придворно-конюшенной частью Министерства императорского двора, оставаясь в списках своего подразделения.
С 1903 г. занимал должность командира эскадрона Офицерской кавалерийской школы, которой командовал Алексей Брусилов.
Во время Русско-японской войны 1904-1905 гг. перевелся в действующую армию, воевал в составе 52-го драгунского Нежинского полка. Командовал дивизионом, участвовал в набеге отряда генерала Павла Мищенко на Инкоу, в сражениях под Сандепу и Мукденом. В 1905 г. за боевые отличия произведен в полковники. В 1905-1906 гг. исполнял должность помощника командира полка по строевой части.
В 1906-1908 гг. Карл Маннергейм был командирован российским Генеральным штабом с разведывательными целями в Монголию и Китай. Некоторое время действовал под прикрытием участника этнографической экспедиции французского синолога (китаиста), профессора Сорбонны Поля Пэллио. По окончании миссии был принят в почетные члены Русского географического общества.
В 1909-1911 гг. командовал 13-м уланским Владимирским полком.
В 1911 г. произведен в генерал-майоры, в 1911-1913 гг. - командир Лейб-гвардии Уланского Его Величества полка. В октябре 1912 г. был зачислен в свиту императора.
С декабря 1913 г. - начальник Отдельной гвардейской кавалерийской бригады, с которой вступил в Первую мировую войну.
С июня 1915 г. по май 1917 г. - командующий 12-й кавалерийской дивизии 8-й армии Юго-Западного фронта, которой командовал Алексей Брусилов, а с марта 1916 г. – Алексей Каледин. С августа 1916 г. по февраль 1917 г. Маннергейм находился на лечении.
С 31 мая по 9 сентября 1917 г. он командовал 6-м кавалерийским корпусом 6-й армии Румынского фронта. В сентябре 1917 г. был переведен в резерв. После прихода в России к власти большевиков уехал в Великое княжество Финляндское, которое в декабре 1917 г. провозгласило свою независимость.
Во время Гражданской войны в Финляндии в январе - мае 1918 г. Карл Маннергейм командовал частями шюцкора (отряды гражданской самообороны), которые были провозглашены Сенатом правительственными войсками. Совместно с подразделениями германской армии, находившимися в Финляндии, разгромил отряды финских социалистов (Красная гвардия, сторонники социал-демократической партии). 29 апреля 1918 г. подчиненные Маннергейму части организовали так называемую Выборгскую резню, расстреляв около 400 русских жителей Выборга, которые не поддерживали ни одну из сторон в финской гражданской войне.
В конце мая 1918 г. из-за конфликта со сторонниками прогерманской политики Карл Маннергейм уехал в Швецию. Вернулся на родину в декабре 1918 г.
1 августа 1918 г. в Финляндии была провозглашена монархия, королем избран германский принц Фридрих Карл Гессенский. Однако он так и не прибыл в страну, и государством правили регенты. С декабря 1918 г. по июль 1919 г. это пост занимал Карл Маннергейм. Одновременно он являлся главнокомандующим финской армией. В апреле-мае 1919 г. вел переговоры с представителями российских антибольшевистских сил и Антанты об участии в вооруженной борьбе с большевиками. Условием участия финских войск в наступлении на Петроград поставил признание независимости Финляндии, присоединение к ней Карелии, учреждение автономий в Архангельской и Олонецкой губерниях (ныне – территории Архангельской области и Республики Карелия, РФ). По итогам переговоров никаких практических действий не последовало.
В июле 1919 г. Финляндия была провозглашена республикой. В ходе выборов первого президента в парламенте страны Маннергейм набрал 50 голосов депутатов, проиграв представителю Национальной прогрессивной партии Каарло Юхо Стольбергу (143 голоса).
В 1920-х гг. Карл Маннергейм, оставаясь одним из наиболее влиятельных политиков Финляндии, продолжал участвовать в руководстве шюцкором (существовал как вспомогательная часть финской армии).
В 1922-1951 гг. занимал пост председателя Финского Красного Креста.
В 1924-1931 гг. возглавлял совет Банковского союза Финляндии, одновременно был председателем правления Объединенного банка, затем Хельсинкского акционерного банка.
После прихода к власти правых политических сил 2 марта 1931 г. Карл Маннергейм был назначен председателем консультативного Совета государственной обороны Финляндии. В 1933 г. получил юридическое право давать командованию армии распоряжения по вопросам военной подготовки страны. В дальнейшем полномочия Маннергейма в области военного строительства расширялись: по его инициативе был увеличен военный бюджет, созданы военно-воздушные силы, началось перевооружение армии и строительство укреплений на границе с СССР на Карельском перешейке ("линия Маннергейма").
17 октября 1939 г. занял пост командующего вооруженными силами Финляндии. 30 ноября, в день начала советско-финской войны 1939-1940 гг., президент Кюёсти Каллио передал Маннергейму пост верховного главнокомандующего, по конституции принадлежавший главе государства. Барон возглавлял вооруженные силы до 31 декабря 1944 г. Руководил боевыми действиями финской армии во время советско-финской войны. 12 марта 1940 г., после консультаций с Маннергеймом, финская делегация во главе с президентом Ристо Рюти подписала на условиях СССР Московский мирный договор.
В 1940 г. через доверенных лиц установил контакты с руководством Германии и договорился о координации действий в будущей войне с Советским Союзом. 14 июня 1941 г. получил из Берлина телеграмму начальника Верховного командования вермахта Вильгельма Кейтеля с сообщением, что 22 июня Германия нападет на СССР. 17 июня 1941 г. приказал начать всеобщую мобилизацию в Финляндии.
26 июня 1941 г. Финляндия объявила войну СССР, выступив в качестве союзника гитлеровской Германии. В этой войне Карл Маннергейм не только командовал финской армией, но и определял политический курс своей страны, ни одно крупное политическое решение не принималось правительством без консультаций с ним. 10 июля 1941 г. издал приказ №3, в котором сформулировал политические цели войны против Советского Союза. Главной из них было объявлено присоединение к Финляндии "Беломорской и Олонецкой Карелии".
Согласно приказу Маннергейма, на оккупированной финнами территории русское население заключалось в концлагеря, через которые в 1941-1944 гг. прошли около 24 тыс. человек (27% от всего населения, находящегося в оккупации). Из них погибли около 4 тыс. человек. Кроме того, на подконтрольной финнам территории СССР население разделялось на две группы – "родственные народы" и "не националы". В последнюю категорию вошли русские, а также другие не финноязычные жители. Для них были установлены заниженные нормы получения продовольствия и оплаты труда, ограничен доступ к системе здравоохранения и образования.
Согласно дневниковой записи адъютанта Гитлера майора Герхарда Энгеля, именно Маннергейм предложил германскому фюреру стереть Ленинград с лица земли. 22 января 1942 г. финский главнокомандующий подписал "Общую инструкцию для деятельности Ладожского отряда флота на время навигации 1942 г.", которой предписывалось приложить особые усилия для прекращения подвоза продовольствия в Ленинград через Ладожское озеро.
4 июня 1942 г. официальный визит финскому главнокомандующему в день его 75-летия нанес Адольф Гитлер.
С 4 августа 1944 г. по 11 марта 1946 г. Карл Маннергейм занимал пост президента Финляндии, был избран на должность специальным актом парламента. Поражения Германии на советско-германском фронте вынудили Маннергейма начать подготовку к заключению сепаратного мира с СССР. Еще 3 февраля 1943 г. на закрытом заседании парламента он высказался за скорейший выход Финляндии из войны. 25 августа 1944 г. Маннергейм обратился через Швецию к советскому правительству с письменным запросом о начале мирных переговоров. 2 сентября 1944 г. Финляндия разорвала отношения с Германией, потребовав вывода частей вермахта из Лапландии, 5 сентября на советско-финском фронте был прекращен огонь. 19 сентября 1944 г. в Москве было подписано советско-финское соглашение о перемирии. В соответствии с условиями договора, Маннергейм 22 сентября отдал приказ финским войскам начать боевые действия против развернутой в Северной Финляндии германской 20-й горной армии.
В конце 1944 г., после включения в состав правительства представителей левых партий, Карл Маннергейм потерял политическое влияние. В 1946 г. он покинул пост президента в связи с ухудшением здоровья. По окончании Второй мировой войны не привлекался к судебной ответственности Союзной контрольной комиссией.
С 1948 г. постоянно жил в санатории Валмонт близ г. Монтрё в Швейцарии.
27 января 1951 г. скончался в госпитале г. Лозанна (Швейцария). 4 февраля 1951 г. был похоронен на Центральном военном кладбище Хельсинки (Финляндия).
Имел звание генерал-лейтенанта Русской императорской армии (1917).
Маршал Финляндии (1942).
В течение жизни Карл Маннергейм был награжден 82 финскими и иностранными орденами.
Имел финские награды: Большой крест Свободы с мечами и бриллиантами (1940), Крест Маннергейма I и II степеней (1941), Большой крест ордена Белой розы с мечами и бриллиантами (1944), Большой крест ордена Льва с мечами и бриллиантами (1944) и др.
Был награжден российскими орденами Святой Анны I, II и III степеней (1915 с мечами, 1907 с мечами, 1900), Святого Станислава I и II степеней с мечами (1915, 1906), Святого Владимира II, III и IV степеней с мечами (1916, 1909, 1907), Святого Георгия IV степени (1915), а также Георгиевским оружием (1915).
Имел кавалерский крест ордена Франца-Иосифа (Австро-Венгрия, 1895), кавалерский крест ордена Почетного легиона (Франция, 1902), Рыцарский крест (Германия, 1942), Дубовые ветви к Рыцарскому кресту (Германия, 1944) и др. иностранные награды.
Воспоминания Маннергейма опубликованы в Финляндии в 1951-1952 гг. Первое издание на русском языке вышло в 1999 г. в сокращении.
С 1892 г. был женат на Анастасии Николаевне Араповой (1872-1936), дочери московского обер-полицмейстера. В 1903 г. брак распался, официальный развод был оформлен в 1919 г.
Имел дочерей Анастасию (1893-1978) и Софию (1895-1963).
По вероисповеданию - лютеранин.