Родился 2 мая 1939 г. в Киеве (Украинская ССР, ныне - Украина) в семье Семена и Иды Каневских. В 1941-1944 гг. проживал с родителями в эвакуации. В 1944 г. семья вернулась в Киев.
С 11 лет Леонид Каневский посещал занятия в одном из киевских драматических кружков.
В 1960 г. окончил в Москве актерский факультет Театрального училища им. Б. В. Щукина (ныне - Театральный институт им. Бориса Щукина при Государственном академическом театре им. Евгения Вахтангова). Выпускник курса педагога Веры Львовой.
В 1960-1967 гг. Леонид Каневский служил в Московском государственном театре им. Ленинского комсомола (ныне - Московский государственный театр "Ленком"). Был задействован в постановках: "Опасный возраст" по пьесе Семена Нариньяни, "Цветы живые" по комедии Николая Погодина, "Годы странствий" по произведению Алексея Арбузова, "104 страницы про любовь" по пьесе Эдварда Радзинского, "Чайка" по произведению Антона Чехова, "Аттракционы" по пьесе Александра Володина и др.
В 1967-1991 гг. был актером Московского драматического театра на Малой Бронной. Исполнял роли в спектаклях: "Ревизор" по комедии Николая Гоголя, "Поздняя любовь" по пьесе Александра Островского, "В номерах" по произведениям Антона Чехова.
В 1991 г. Леонид Каневский переехал в Израиль. В том же году стал актером театра "Гешер" (ивр. "Мост"), созданного в Тель-Авиве эмигрировавшим из СССР режиссером Евгением Арье и его учениками (спектакли шли на русском языке и иврите). Был задействован в постановках: "Идиот" по роману Федора Достоевского, "На дне" по пьесе Максима Горького, "Дело Дрейфуса" по произведению Жан-Клода Грюмберга, "Коварство и любовь" по драме Фридриха Шиллера, "Город. Одесские рассказы" по произведениям Исаака Бабеля, "Мистер Бринк" по пьесе Поля Осборна и др.
Леонид Каневский известен в качестве киноактера. Дебютной для него стала эпизодическая роль заведующего сельским магазином в драме Бориса Рыцарева "Сорок минут до рассвета" (1963). Широкую популярность актеру принесла роль инспектора Московского уголовного розыска Александра Томина в многосерийном телефильме "Следствие ведут ЗнаТоКи" (1971-2002, режиссеры Вячеслав Бровкин, Виктор Турбин и др.). Среди других известных киноработ: стамбульский контрабандист в комедии "Бриллиантовая рука" (1968, режиссер Леонид Гайдай), Бонасье в фильме "Д'Артаньян и три мушкетера" по роману Александра Дюма (1979, Георгий Юнгвальд-Хилькевич), полковник Борис Семин в криминальном сериале "Семин" (2009, Александр Франскевич-Лайе и Геннадий Байсак). Последняя роль к настоящему времени - Семен в комедии "О чем говорят мужчины. Продолжение" (2018, Флюза Фархшатова). В общей сложности снялся в более чем 50 фильмах и сериалах.
Сейчас Леонид Каневский преимущественно проживает в России. C 2006 г. по н. в. он является ведущим цикла документальных передач "Следствие вели…" (НТВ), посвященного громким преступлениям советского времени. Выпущено более 400 программ.
Член Союза кинематографистов РФ.
Входит в состав общественного совета Российского еврейского конгресса.
Заслуженный артист РСФСР (1984).
Награжден орденом Дружбы (2010).
Женат. Супруга - Анна Березина, филолог по образованию. Дочь - Наталья Каневская (род. 1977), выпускница театрального факультета Тель-Авивского университета, художник по костюмам. Брат - Александр Каневский (род. 1933), писатель-сатирик.