Родился 21 февраля 1904 г. (8 февраля по старому стилю) в Санкт-Петербурге в рабочей семье.
В 1924 г. окончил Ленинградский кооперативный техникум, в 1935 г. - Ленинградский текстильный институт им. С. М. Кирова.
В 1919 г. вступил добровольцем в Красную армию, где служил до 1921 г. в строительных частях.
В 1924-1930 гг. работал в Сибири в различных организациях потребительской кооперации: был инструктором Сибирского областного союза, заведующим орготделом и членом правления Ленского союза, заведующим плановым отделом Сибирского краевого союза кооператоров.
В 1927 г. вступил во Всесоюзную коммунистическую партию (большевиков), ВКП(б) (с 1952 г. – КПСС).
С 1935 г. - мастер, начальник смены на текстильной фабрике им. А. И. Желябова (Ленинград).
В 1937-1938 гг. - директор прядильно-ткацкой фабрики "Октябрьская".
С июля 1938 г. заведовал промышленно-транспортным отделом Ленинградского областного комитета ВКП(б).
В октябре 1938 г. – январе 1939 г. - председатель Ленинградского городского совета депутатов трудящихся (Ленгорисполкома).
С января 1939 г. - нарком текстильной промышленности СССР.
В 1939-1980 гг. - член центрального комитета ВКП(б) (с 1952 г. - Коммунистической партии Советского Союза, КПСС).
С апреля 1940 г. по март 1953 г. - заместитель председателя Совета народных комиссаров (СНК; с 1946 г. - Совета министров) СССР. Одновременно с июня 1943 г. по март 1946 г. возглавлял СНК РСФСР, в феврале - декабре 1948 г. был министром финансов СССР, в декабре 1948 г. – марте 1953 г. - министром легкой промышленности СССР. С началом Великой Отечественной войны в 1941 г. был назначен заместителем председателя Совета по эвакуации, уполномоченным ЦК ВКП(б) и СНК СССР по проведению эвакуации крупнейших промышленных предприятий Москвы, Московской области, Харькова. В январе - июне 1942 г. - уполномоченный Государственного комитета обороны в Ленинграде. Руководил организацией снабжения города, эвакуации населения, курировал работу предприятий военной промышленности, в том числе по производству вооружений, работу по созданию резервов для армии.
В 1946-1980 гг. - депутат Верховного Совета СССР.
В 1948-1952 гг. входил в состав политбюро (в 1952-1966 гг. - президиума) ЦК компартии, высшего коллегиального органа власти в СССР. В октябре 1952 г. был выведен из состава президиума ЦК КПСС, стал кандидатом в члены президиума (лишен этого поста в марте 1953 г.).
В марте – августе 1953 г. - министр легкой и пищевой промышленности СССР.
С августа 1953 г. по февраль 1954 г. - министр промышленных товаров широкого потребления СССР.
С декабря 1953 г. по декабрь 1956 г. и с июля 1957 г. по май 1960 г. вновь занимал пост заместителя председателя Совета министров СССР.
С декабря 1956 г. по июль 1957 г. - первый заместитель председателя Госплана СССР - министр СССР.
В июне 1957 г. Алексей Косыгин поддержал первого секретаря компартии Никиту Хрущева, которого несколько членов президиума ЦК КПСС (Вячеслав Молотов, Лазарь Каганович и др.) попытались сместить с высших партийных и государственных постов.
В июне 1957 г. Алексей Косыгин вновь был избран кандидатом в члены президиума ЦК КПСС.
С марта 1959 г. по май 1960 г. возглавлял Госплан СССР, оставаясь заместителем председателя Совмина СССР.
С 4 мая 1960 г. по 21 октября 1980 г. - член президиума (с 1966 г. - политбюро) ЦК КПСС.
В мае 1960 г. - октябре 1964 г. - первый заместитель председателя Совета министров СССР.
В октябре 1964 г. поддержал смещение Никиты Хрущева с высших партийных и государственных постов. Одной из причин стало негативное отношение Косыгина к инициированной Хрущевым реформе госуправления (ликвидация отраслевых союзных министерств, создание вместо них территориальных совнархозов).
С октября 1964 г. по октябрь 1980 г. - председатель Совета министров СССР. Возглавлял правительство 16 лет - дольше всех в истории СССР и РФ. Оставаясь приверженцем плановой экономики, стремился сделать ее более эффективной путем внедрения отдельных элементов рынка. В ходе т. н. косыгинской экономической реформы, начатой в 1965 г., было сокращено число обязательных для предприятий плановых показателей, расширена самостоятельность субъектов хозяйственной деятельности. При оценке работы и стимулировании предприятий ключевое значение предавалось показателям экономической эффективности. Первоначально реформа привела к росту основных экономических показателей, восьмая пятилетка (1966-1970) стала единственным выполненным пятилетним планом развития народного хозяйства за всю советскую историю. Однако в дальнейшем возможности плановой системы были исчерпаны, партийное руководство отказалось от расширения доли рыночных механизмов в хозяйстве СССР, косыгинская реформа была свернута.
В октябре 1980 г. Косыгин был освобожден от всех партийных и государственных постов в связи с ухудшением состояния здоровья. Ему был присвоен статус пенсионера союзного значения.
18 декабря 1980 г. Алексей Косыгин скончался в Москве в возрасте 76 лет. Его прах был захоронен в Кремлевской стене на Красной площади.
Дважды Герой Социалистического Труда (1964, 1974). Был награжден шестью орденами Ленина (1939, 1944, 1954, 1964, 1971, 1974), орденами Красного Знамени (1943) и Октябрьской революции (1979). Имел иностранные награды.
Алексей Косыгин был женат, имел дочь. Супруга с 1927 г. - Клавдия Кривошеина (1908-1967). Дочь - Людмила Гвишиани (1928-1990), в 1973-1987 гг. занимала должность директора Всесоюзной государственной библиотеки иностранной литературы.