Родился 21 марта 1895 г. в Одессе (Херсонская губерния Российской империи, ныне - Украина) в семье Осипа Кельмановича (Иосифа Калмановича) Вайсбейна и Малки Моисеевны Граник. Его отец работал маклером.
Посещал Одесское коммерческое училище Генриха Файга, откуда в 1910 г. был отчислен за плохую успеваемость и неудовлетворительную дисциплину. Параллельно с занятиями в училище брал частные уроки игры на скрипке. После отчисления выступал как гимнаст в бродячем цирке борца Ивана Бороданова, с которым несколько лет гастролировал по Украине.
В 1912 г. устроился на работу в Кременчугский театр миниатюр, тогда же взял сценический псевдоним Леонид Утесов. Спустя год поступил в труппы Большого и Малого Ришельевских театров в Одессе. Затем играл в Херсонском театре миниатюр, передвижном театре миниатюр "Мозаика".
В 1914-1917 гг. служил в армии в тыловой части под Одессой.
В 1917 г. Леонид Утесов занял первое место на конкурсе куплетистов в г. Гомеле (ныне - на территории Белоруссии). После этого переехал в Москву, где выступал с оркестром в саду "Эрмитаж".
В 1919 г. дебютировал в кино, исполнив роль адвоката Зарудного в фильме Якова Посельского и Александра Разумного "Жизнь и смерть лейтенанта Шмидта" (съемки проходили в Одессе).
С 1921 г. по 1928 г. Леонид Утесов играл в Московском театре революционной сатиры, Театре музыкальной комедии, петроградских Театре сатиры, "Палас-театре" и "Свободном театре", рижском театре "Маринэ". Выступал как чтец, первым исполнил с эстрады прозу Исаака Бабеля, Михаила Зощенко, стихи Эдуарда Багрицкого и др. Особым успехом у зрителей пользовался шестичасовой моноспектакль "От трагедии до трапеции" в "Палас-театре" , в котором Утесов выступал как певец, танцор, скрипач, гитарист, рассказчик, куплетист и гимнаст. Также снимался в фильмах режиссера Бориса Светлова "Карьера Спирьки Шпандыря" (1926) и "Чужие" (1928).
В 1928 г. посетил Париж (Франция), где побывал на концертах американского джаз-оркестра Теда Льюиса. После возвращения в Ленинград вместе с трубачом, музыкантом филармонического оркестра Яковом Скоморовским создал собственный оркестр "Теа-джаз" (позднее - Государственный джаз-оркестр РСФСР, Государственный эстрадный оркестр РСФСР). Первое выступление состоялось 8 марта 1929 г. в помещении Малого оперного театра в Ленинграде в новом для эстрады жанре театрализованного джаза. В концертных программах Леонид Утесов совмещал дирижирование с конферансом, танцами, пением. Музыканты разыгрывали сценки между собой и дирижером. Настоящий успех к первому советскому джаз-оркестру пришел благодаря сотрудничеству с композитором, дирижером Ленинградского мюзик-холла Исааком Дунаевским, который стал автором репертуара "Теа-джаза". В 1929 г. были сделаны первые граммофонные записи оркестра, в 1933 г. выпущены пластинки.
В 1934 г. на экраны вышел первый советский звуковой музыкальный фильм "Веселые ребята" (режиссер Григорий Александров), главные роли в котором сыграли Леонид Утесов и Любовь Орлова. В картине звучали песни Исаака Дунаевского на стихи Василия Лебедева-Кумача "Сердце, тебе не хочется покоя", "Марш веселых ребят" в исполнении Леонида Утесова и его оркестра.
С 1936 г. в выступлениях оркестра Леонида Утесова принимала участие его дочь Эдит. Самой популярной песней их дуэта стала композиция "Дорогие мои москвичи" на музыку Исаака Дунаевского. В 1937 г. оркестр Утесова представил новую программу "Песни моей Родины" (в нее вошли "Тачанка", "Полюшко" и др).
В 1938 г. Леонид Утесов вместе с оркестром переехал из Ленинграда в Москву. В годы Великой Отечественной войны Государственный джаз-оркестр РСФСР под его управлением выступал на фронтах, дал более 500 концертов. Особую популярность у бойцов получили песни "Жди меня", "Землянка", "Темная ночь", "Одессит Мишка" и др. Оркестр собрал средства на два самолета-истребителя Ла-5Ф, которые получили название "Веселые ребята" и были переданы 5-му гвардейскому истребительному авиаполку. 9 мая 1945 г. коллектив Утесова играл для москвичей на площади Свердлова (ныне - Театральная площадь).
26 августа 1946 г. вышло постановление ЦК ВКП(б) "О репертуаре драматических театров и мерах по его улучшению". Вслед за этим в СССР началась кампания по борьбе с западным влиянием в культуре, были распущены почти все джаз-оркестры, джаз перестал существовать в СССР как жанр эстрады. Коллектив Леонида Утесова сохранился, но был в 1947 г. переименован в Государственный эстрадный оркестр РСФСР. Оркестр продолжал гастролировать по стране, записывал пластинки, выступал по радио и телевидению.
В 1966 г. Леонид Утесов принял решение покинуть сцену по состоянию здоровья. Он продолжал сниматься на телевидении, писал стихи.
Леонид Утесов скончался 9 марта 1982 г. в военном санатории в подмосковном Архангельском на 87-м году жизни. Похоронен на Новодевичьем кладбище в Москве.
Заслуженный деятель искусств РСФСР (1947). Народный артист СССР (1965, стал первым эстрадным исполнителем, удостоенным этого звания).
Был награжден орденами Трудового Красного Знамени (1945, 1980) и Октябрьской революции (1975).
Выпустил книги "Записки актера" (1939), "С песней по жизни" (1961) и "Спасибо, сердце! Воспоминания, встречи, раздумья" (1976).
Был дважды женат. Первая супруга - Елена Осиповна Голдина (1892-1962). Дочь - Эдит Утесова (1915-1982, эстрадная певица). Вторая супруга - Антонина Сергеевна Ревельс (1923-1997; брак был заключен в начале 1982 г. и продлился всего два месяца).