Родился 10 марта 1908 г. (26 февраля 1908 г по старому стилю) в гор. Павлограде Екатеринославской губернии Российской империи (ныне в Днепропетровской обл. Украины) в семье рабочего.
После окончания школы в 1923 г. работал слесарем на харьковском котельно-механическом заводе "Труд". Одновременно учился на вечернем рабочем факультете.
В 1927 г. поступил в Харьковский технологический институт им. В. И. Ленина (ныне Национальный технический университет Харьковский политехнический институт, Украина). В 1929 г. за отличную учебу Жозеф Котин был откомандирован в ленинградскую Военно-техническую академию им. Ф. Э. Дзержинского (ныне Военная академия Ракетных войск стратегического назначения им. Петра Великого, г. Балашиха, Московская обл. РФ) на факультет механизации и моторизации Рабоче-крестьянской красной армии (РККА), который окончил в 1932 г.
Доктор технических наук (1943, без защиты докторской диссертации).
Предвоенный период
С 1930 г. Жозеф Котин состоял в рядах РККА.
В 1932-1937 г. в звании военинженера 3-го ранга проходил службу в Военной академии механизации и моторизации РККА им. И. В. Сталина (ныне Общевойсковая академия ВС РФ), где занимал должность начальника проектно-конструкторского сектора, затем начальника конструкторского бюро научно-исследовательского отдела.
В 1937 г. был назначен главным конструктором конструкторского бюро СКБ-2 на Кировском заводе в Ленинграде (ныне Санкт-Петербург).
Под руководством Жозефа Котина в кратчайшие сроки были созданы первые отечественные тяжелые танки с противоснарядным бронированием: многобашенный СМК ("Сергей Миронович Киров") и однобашенные КВ ("Клим Ворошилов", был принят на вооружение в 1939 г. и до 1943 г. являлся основным тяжелым танком Красной армии) и КВ-2 (версия КВ-2 с 152-мм гаубицей, выпускалась в 1940-1941 гг.). Велась разработка других танков и самоходных артиллерийских установок.
Годы Великой Отечественной войны
В июле 1941 г. в связи со сложной обстановкой на Северо-Западном фронте Великой Отечественной войны началась эвакуация Кировского завода на Урал. 6 октября того же года Челябинский тракторный завод им. Сталина был переименован в Кировский завод Наркомтанкопрома в г. Челябинске и включен в состав только что образованного комбината по производству танков КВ. Главным конструктором комбината, получившего впоследствии неофициальное название "Танкоград", был назначен Жозеф Котин с сохранением должности главного конструктора Кировского завода.
9 октября 1941 г. Жозеф Котин по совместительству занял должность заместителя народного комиссара танковой промышленности СССР Вячеслава Малышева.
В августе 1943 г. Жозеф Котин был освобожден от обязанностей заместителя народного комиссара танковой промышленности СССР и занял пост главного конструктора и начальника опытного танкового завода №100 в Челябинске.
Под руководством Котина совершенствовались танки КВ, были созданы различные их модификации. Летом 1942 г. началось проектирование перспективного тяжелого танка ИС ("Иосиф Сталин"), который был выпущен малой серией. Развитием этого проекта стало появление в 1943 г. самого мощного советского серийного танка периода войны - ИС-2 с пушкой калибра 122 мм. В январе 1945 г. также был начат выпуск танков ИС-3, но участия в боях Великой Отечественной они уже принять не успели. Параллельно на базе танков КВ и ИС были созданы тяжелые самоходные артиллерийские установки СУ-152, ИСУ-152 и ИСУ-122.
К моменту окончания Великой Отечественной войны в 1945 г. коллектив Котина разработал более 50 боевых машин. Под руководством генконструктора "Танкоград" выпустил свыше 18 тыс. танков и самоходных установок.
Послевоенные годы
В 1945 г. Жозеф Котин вернулся в Ленинград на должность главного конструктора СКБ-2.
В 1949 г. возглавил созданный на базе опытного танкового завода № 100 Всесоюзный научно-исследовательский танковый и дизельный институт, ВНИИ-100 (ныне Всероссийский научно-исследовательский институт транспортного машиностроения, Ленинградская обл. РФ).
В послевоенные годы Жозеф Котин руководил разработкой тяжелого танка ИС-4, плавающего танка ПТ-76, тяжелого танка Т-10, плавающего бронетранспортера БТР-50П, а также созданием трелевочного трактора КТ-12, семейства мощных колесных тракторов К-700 "Кировец", гусеничного тягача для использования в Антарктиде и др. Последней разработкой Котина в качестве главного конструктора Кировского завода стало шасси первого в СССР подвижного ракетного комплекса РТ-20П с межконтинентальной баллистической ракетой (испытывался в конце 1960-х гг., на вооружение принят не был).
В 1968-1972 гг. Жозеф Котин занимал должность заместителя министра оборонной промышленности СССР, с 1972 г. входил в состав научно-технического совета этого министерства.
Избирался депутатом Верховного Совета СССР второго (1946-1950 гг.) и седьмого (1966-1970 гг.) созывов.
Жозеф Котин скончался в Москве 21 октября 1979 г. на 72-м году жизни. Похоронен на Новодевичьем кладбище столицы.
Генерал-полковник-инженер (1971).
Жозеф Котин был награжден четырьмя орденами Ленина (1940, 1941, 1956, 1978), двумя орденами Октябрьской Революции (1971, 1975), орденом Красного Знамени (1951), орденами Суворова I и II степеней (оба в 1945), орденом Отечественной войны I степени (1944), Тремя орденами Трудового Красного Знамени (1951, 1958, 1966), Тремя орденами Красной Звезды (1942, 1943, 1945), орденом "Знак Почета" (1957), медалями.
Лауреат трех Сталинских премий СССР I степени (1941, 1942, 1943-1944) и одной - II степени (1947).
Герой Социалистического Труда (1941, "за выдающиеся заслуги в создании и освоении производства тяжелых танков в трудных условиях военного времени").
Заслуженный деятель науки и техники РСФСР (1968).