Родился 28 февраля 1920 г. в г. Данилов (Ярославская губерния РСФСР, ныне - Ярославская область) в семье Макара Степановича и Анны Ивановны Смирновых.
В 1940 г. окончил театральную студию при Ленинградском театре музыкальной комедии (ныне - Санкт-Петербургский государственный театр музыкальной комедии). Осенью того же года был призван в армию.
Во время Великой Отечественной войны Алексей Смирнов был минометчиком, прошел путь от рядового до лейтенанта. В 1942-1945 гг. служил в 169-м минометном полку, был химическим инструктором батареи, затем - командиром огневого взвода. Воевал на Западном, Брянском, 1-м Украинском и 2-м Белорусском фронтах. Был награжден орденами Красной Звезды (1944), Славы II и III степеней (1945, 1944), медалями "За отвагу" (1943) и "За боевые заслуги" (1944). Также руководил полковой художественной самодеятельностью, занимался организацией фронтовых концертов. В 1945 г. был контужен в бою. После длительного лечения комиссован.
В 1946-1952 гг. Алексей Смирнов служил в Ленинградском государственном театре музыкальной комедии. Исполнял роли в опереттах "Вольный ветер" Исаака Дунаевского и "Девичий переполох" Юрия Милютина, в спектакле "Табачный капитан" по пьесе-сказке Николая Адуева. В 1952-1961 гг. являлся артистом Ленгосэстрады.
Дебютной в кино для Алексея Смирнова стала эпизодическая роль матроса в фильме "Балтийская слава" (1957, режиссер Ян Фрид). Наибольшую известность получил по комедийным фильмам. Сыграл вахтенного матроса Кныша в "Полосатом рейсе" (1961, Владимир Фетин), мошенника Билла в новелле "Вождь краснокожих" из фильма "Деловые люди" по мотивам рассказов О. Генри (1962, Леонид Гайдай), Федю в новелле "Напарник" из комедии "Операция "Ы" и другие приключения Шурика" (1965, Леонид Гайдай), Масленникова в "Семи стариках и одной девушке" (1968, Евгений Карелов). Также среди известных ролей - механик Макарыч в военной драме "В бой идут одни "старики" (1973, Леонид Быков). В общей сложности Алексей Смирнов снялся в более чем 80 фильмах.
Алексей Смирнов скончался 7 мая 1979 г. в Ленинграде на 60-м году жизни. Похоронен на городском Южном кладбище.
Заслуженный артист РСФСР (1976).