Родился 18 августа 1905 г. (по старому стилю 5 августа) в г. Скопине Рязанской губернии в семье рабочего. В семилетнем возрасте остался круглым сиротой. В 1917 г. окончил церковно-приходскую школу, работал в городском коммунальном хозяйстве.
В 1926 г. Сергей Бирюзов стал выпускником 1-й Советской объединенной военной школы Рабоче-крестьянской Красной армии им. Всероссийского центрального исполнительного комитета (ныне Московское высшее военное командное училище), в 1929 г. окончил два курса Вечернего рабочего университета, в 1937 г. - Военную академию им. М. В. Фрунзе (ныне Военный учебно-научный центр Сухопутных войск "Общевойсковая академия Вооруженных Сил Российской Федерации") с дипломом I степени.
В 1922 г. Сергей Бирюзов вступил добровольцем в Красную армию. Последовательно занимал должности командира взвода, роты, начальника штаба учебного батальона, командира батальона, штаба стрелковой дивизии, отдела в штабе Харьковского военного округа.
В августе 1939 г. был назначен командиром 132-й стрелковой дивизии, дислоцированной в Полтаве (Украинская ССР, ныне Украина).
В начале Великой Отечественной войны 1941-1945 гг. дивизия Бирюзова входила в состав войск Юго-Западного и Брянского фронтов. Трижды выходила из окружения.
В мае - ноябре 1942 г. Сергей Бирюзов являлся начальником штаба 48-й армии Брянского фронта.
С декабря 1942 г. по апрель 1943 г. был начальником штаба 2-й гвардейской армии Сталинградского (впоследствии Южного) фронта. Затем был назначен начальником штаба Южного (с 20 октября 1943 г. - 4-й Украинский) фронта, которым командовал генерал армии Федор Толбухин.
Сергей Бирюзов участвовал в разработке и проведении операций по освобождению Донбасса (Донбасская наступательная операция, 13 августа - 22 сентября 1943 г.), Перекопского перешейка и низовьев Днепра (Мелитопольская операция, 26 сентября - 5 ноября 1943 г.), а также в Никопольско-Криворожской (30 января - 29 февраля 1944 г.) и Крымской (8 апреля - 12 мая 1944 г.) наступательных операциях.
С мая 1944 г. в течение полугода был начальником штаба 3-го Украинского фронта. Участвовал в планировании и осуществлении Ясско-Кишиневской операции (20-29 августа 1944 г.), закончившейся освобождением Молдавии и выводом из войны Румынии.
С октября 1944 г. по май 1946 г. командовал 37-й армией 3-го Украинского фронта (с 15 декабря 1944 г. - 37-я отдельная армия). Одновременно, после перехода Болгарии на сторону антигитлеровской коалиции, являлся главным военным советником при болгарской армии и заместителем председателя Союзной контрольной миссии в Болгарии.
Принимал участие в освобождении Югославии.
В ходе боев получил пять ранений, в том числе два тяжелых.
После окончания Великой Отечественной войны Сергей Бирюзов был заместителем главнокомандующего Сухопутными войсками по боевой подготовке (май - июнь 1946 г.), заместителем главнокомандующего и командующим 10-й механизированной армией (1946-1947 гг.).
В 1947 г. был назначен командующим войсками Приморского военного округа.
С 1953 г. являлся главнокомандующим Центральной группы войск.
В 1954 г. занимал должность первого заместителя главнокомандующего войск Противовоздушной обороны (ПВО).
С 1955 г. по 1962 г. был главнокомандующим войск ПВО - заместителем министра обороны СССР.
Одновременно с января 1956 г. являлся заместителем главнокомандующего Объединенными вооруженными силами государств - участников Варшавского Договора - командующим войсками ПВО Объединенных вооруженных сил.
В 1962 г. был назначен главнокомандующим Ракетными войсками стратегического назначения (РВСН) - заместителем министра обороны СССР.
С марта 1963 г. по октябрь 1964 г. занимал пост начальника Генерального штаба Вооруженных сил СССР - 1-го заместителя министра обороны СССР.
Сергей Бирюзов погиб 19 октября 1964 г. на 60-м году жизни в авиационной катастрофе вблизи Белграда (Югославия, ныне Сербия), куда маршал летел на празднование освобождения города от немецких оккупантов. Прах военачальника захоронен в Кремлевской стене на Красной площади в Москве.
Избирался депутатом Верховного Совета СССР 2, 4 и 6 созывов (1946-50, 1954-58, 1962-64).
Маршал Советского Союза (1955).
Герой Советского Союза (1958). Был награжден пятью орденами Ленина (1942, 1947, 1954, 1958, 1964), тремя орденами Красного Знамени (1944, 1944, 1953), орденами Суворова I (1944) и II (1943) степеней, Кутузова I степени (1943), Богдана Хмельницкого I степени (1944), медалями.
Имел награды иностранных государств. Народный герой Югославии (посмертно).
Автор и редактор ряда военно-научных работ. Автор книг "Когда гремели пушки" (1961) и "Советский солдат на Балканах" (1963).
Был женат, супруга - Юлия Ивановна. В браке родились две дочери - Валентина (1931) и Ольга (1935), сын Сергей (1946).