Родился 1 мая 1950 г. в г. Николаеве (Украинская ССР, ныне Украина) в семье Георгия Михайловича и Зинаиды Евгеньевны Захаровых. Его отец был военным.
Во второй половине 1960-х гг. Сергей Захаров учился в радиотехническом техникуме в г. Байконуре (Казахская ССР, ныне Республика Казахстан).
В начале 1970-х гг. проходил службу в рядах Советской армии. Был ротным запевалой, участвовал в художественной самодеятельности, выступал в ансамбле песни и пляски "Дружба" Дома Советской армии Среднеазиатского военного округа. В 1971 г. был досрочно демобилизован и направлен в Москву для продолжения музыкального образования.
Сергей Захаров учился на отделении музыкальной комедии Государственного музыкального училища им. Гнесиных (ныне Музыкальное училище им. Гнесиных Российской академии музыки им. Гнесиных), затем - на вокальном отделении Ленинградского (ныне Санкт-Петербургского) музыкального училища им. М. П. Мусоргского. Певческий голос - баритон.
Будучи студентом училища им. Гнесиных, стал солистом Государственного эстрадного оркестра под управлением Леонида Утесова.
В 1973-1985 гг. Сергей Захаров работал в Ленинградском мюзик-холле (ныне Санкт-Петербургский театр "Мюзик-Холл"), после чего сотрудничал с Магаданской, Ульяновской и Одесской филармониями. В 1977 г. вследствие драки с администратором мюзик-холла был осужден на один год. Отбывал срок на принудительных работах в г. Сланцы (Ленинградская обл.).
В 1986 г. начал сольную карьеру: изначально выступал со своим ансамблем, с 1991 г. - вместе с пианистом Александром Коганом.
Сергей Захаров был известен как исполнитель романсов, арий, фрагментов из оперетт, а также лирических произведений. Среди наиболее известных песен Сергея Захарова: "Яблони в цвету", "Что так сердце растревожено", "Мир дому твоему", "Отцвели хризантемы", "Возвращение романса", "Скажите, девушки", "За все тебя благодарю" и др.
Исполнил роль лейтенанта Фернана Шамплатро в телефильме Леонида Квинихидзе "Небесные ласточки" (1976).
14 февраля 2019 г. Сергей Захаров скончался в Москве на 69-м году жизни от сердечной недостаточности. Прах артиста был захоронен на кладбище в Зеленогорске (город в составе Курортного района Санкт-Петербурга).
Народный артист РФ (1996).
Был награжден орденом Дружбы (2000).
Являлся обладателем первых премий международного песенного конкурса "Золотой Орфей" (1974, Солнечный Берег, Болгария), международного конкурса эстрадной песни в Сопоте (1974, Польша), международного фестиваля популярной песни "Братиславская лира" (1976, Чехословакия).
Был женат на Алле Захаровой. Дочь - Наталья (род. 1969, специалист в области организации театрального дела).