Родился 11 августа 1920 г. в Ростове-на-Дону. В пятилетнем возрасте начал учиться игре на виолончели.
В 1932 г. был зачислен в Особую детскую группу (ОДГ) при Московской государственной консерватории (с 1940 г. учреждение носит имя П. И. Чайковского). Инициаторами ее создания выступили директор консерватории Станислав Шацкий и профессор Александр Гольденвейзер, объединившие в одном коллективе музыкально одаренных детей из разных городов СССР. В 1935 г. ОДГ была преобразована в Центральную музыкальную школу (ЦМШ) при Московской консерватории. В 1936 г. Яков Слободкин завершил обучение в ЦМШ и поступил в Московскую консерваторию в виолончельный класс профессора Марка Ямпольского.
В 1937 г. стал лауреатом Всесоюзного конкурса скрипачей и виолончелистов, после чего был принят солистом во Всероссийское гастрольно-концертное объединение. В 1941 г. стал солистом Московской государственной филармонии. В годы Великой Отечественной войны Яков Слободкин был участником фронтовых бригад. В 1943 г. впервые в СССР исполнил концерт для виолончели с оркестром Антонина Дворжака. Обучение в Московской консерватории завершил в 1945 г.
С 1945 г. до 1960-х гг. Яков Слободкин преподавал в Музыкальном училище при Московской консерватории.
В 1950 г. стал лауреатом международного конкурса виолончелистов им. Г. Вигана в Праге (Чехословакия, ныне Чехия). В 1950-х гг. вместе с альтистом Рудольфом Баршаем, скрипачами Юлианом Ситковецким и Антоном Шароевым был участником Квартета им. П. И. Чайковского. Также выступал в составе трио с пианистом Яковом Флиером и скрипачом Игорем Безродным. Сотрудничал с пианистом Святославом Рихтером, скрипачом Леонидом Коганом.
В 1967-1975 гг. преподавал в Ростовском государственном музыкально-педагогическом институте (ныне Ростовская государственная консерватория им. С. В. Рахманинова). Профессор (1973). С 1976 г. проживал в Москве.
Яков Слободкин осуществил концертные обработки для виолончели сонаты Джузеппе Тартини "Дьявольская трель", произведений Никколо Паганини, Генрика Венявского, Фредерика Шопена. Свои сочинения для виолончели ему посвятили финский композитор Ян Сибелиус и болгарский композитор Панчо Владигеров.
Яков Слободкин скончался 25 января 2009 г. в Москве на 89-м году жизни. Похоронен на столичном Донском кладбище.
Заслуженный артист РСФСР (1968).
Был награжден орденами Трудового Красного Знамени, Дружбы народов, Отечественной войны I и II степеней.
Лауреат Сталинской премии II степени (1949).
Сын - народный артист РФ композитор Павел Слободкин (1945-2017).