Родился 15 марта 1933 г. в с. Малое Заречье Белозерского района Северного края РСФСР (ныне в Вологодской обл. РФ). Его отец был военным, мать работала в местном отделе Культпросвета. Имя получил в честь британского писателя-фантаста Герберта Уэллса.
В 1956 г. окончил Ленинградский военно-механический институт (ныне Балтийский государственный технический университет "Военмех" имени Д. Ф. Устинова, Санкт-Петербург) по специальности "Приборостроение".
Кандидат технических наук (1986), профессор Московского государственного технического университета (МГТУ) им. Н. Э. Баумана (1996).
После окончания вуза был направлен с Союзное ОКБ-52 Минавиапрома СССР в г. Реутове Московской обл. (конструкторское бюро ракетно-космической техники под руководством академика Владимира Челомея; с 1965 г. носило название Центральное конструкторское бюро машиностроения, ЦКБМ, Министерства общего машиностроения СССР; с 1983 г. - Научно-производственное объединение машиностроения, ныне АО "Военно-промышленная корпорация "НПО машиностроения").
В 1956-1959 гг. Герберт Ефремов работал в бюро инженером, старшим инженером, инженером-конструктором 2-й категории. В 1962 г. занял пост заместителя начальника конструкторского бюро - ведущего конструктора, в 1964 г. был назначен начальником проектного подразделения предприятия.
В 1970-1984 гг. - заместитель главного конструктора и начальника ЦКБМ (в 1970 - и. о.). После смерти Владимира Челомея в 1984 г. стал генеральным конструктором НПО машиностроения. В 1991 г. занял пост генерального конструктора - генерального директора предприятия, занимал эту должность до 2007 г.
С 2007 г. по н. в. - почетный генеральный директор, почетный генеральный конструктор АО "ВПК "НПО машиностроения", советник главы корпорации по науке.
Герберт Ефремов создавал комплексы с крылатыми ракетами для стрельбы по наземным целям с подводных лодок (П-5, С-5, "Метеорит" и др.), противокорабельные ракетные комплексы (П-6, П-35, "Прогресс", "Аметист", "Малахит", "Базальт", "Вулкан", "Гранит", "Оникс"), ракетные комплексы стратегического назначения с межконтинентальными баллистическими ракетами УР-100, УР-100К, УР-100Н УТТХ и др. Один из ведущих разработчиков автономных космических станций радиолокационного зондирования Земли серии "Алмаз" (пуски в 1987 и 1991 гг.), ракеты-носителя "Стрела" (на базе РС-18Б, первый пуск в 2003 г.). Он также руководил созданием спутников связи "Руслан" (1990-е гг., о пусках не сообщалось) и спутников-фоторазведчиков "Кондор" (первый запуск в 2013). В 1990-е гг., после распада СССР и резкого сокращения государственных оборонных заказов, Герберт Ефремов смог сохранить научный, технический и кадровый потенциал НПО машиностроения. Под его руководством в качестве генконструктора был реализован совместный российско-индийский проект по разработке морской крылатой ракеты BrahMos ("БраМос", первый испытательный пуск в 2001 г.).
В 2020 г. было объявлено, что Герберт Ефремов был разработчиком аэробаллистического гиперзвукового боевого оснащения "Авангард".
Преподавал в Московском авиационном институте (1986-1995), с 1990 г. преподавал в МГТУ им. Н. Э. Баумана.
Преподавал в Московском авиационном институте (1986-1995), с 1990 г. преподавал в МГТУ им. Н. Э. Баумана.
Награжден орденами Ленина (1963), Трудового Красного Знамени (1971), "Знак Почета" (1959), Святого апостола Андрея Первозванного с мечами (2020, за разработку и создание системы "Авангард"), "За заслуги перед Отечеством" II (2013) и III (2003) степеней, медалями. Кавалер ордена "Падма Бхушан" (Индия, 2003).
Герберт Ефремов - первый и по состоянию на 2023 г. один из двух обладателей званий Героя Социалистического Труда (1963) и одновременно Героя Труда Российской Федерации (2017).
Лауреат Ленинской премии (1982), Государственной премии СССР (1974), Государственной премии РФ им. Маршала Советского Союза Г. К. Жукова (2003, за создание и внедрение современной технологии продления срока эксплуатации ракетных комплексов стратегического назначения), Премии правительства РФ (2002). Также был награжден почетными грамотами Президиума Верховного Совета РФ (1993) и правительства РФ (2007).
Почетный член Российской академии ракетных и артиллерийских наук. Член Академии военных наук РФ. Депутат Московского областного совета народных депутатов (1980-1992), кандидат в члены Московского областного комитета КПСС (1985-1991).
Почетный гражданин г. Реутова (1995).
Именем Герберта Ефремова названа малая планета Солнечной системы (№9718 Gerbefremov).
Автор ряда научных работ, соавтор более 80 изобретений ("Гидравлическая система летательного аппарата", "Обслуживаемый на орбите автоматический космический аппарат", "Способ поражения легкоуязвимых наземных целей сверхзвуковой ракетой и устройство для его осуществления" и др.), а также учебных пособий ("Особенности компоновки чувствительных и гироскопических приборов при проектировании КА", 1993; "Исследование устойчивости дискретной системы частотным методом", 1994; и др.). В 2016 г. издана книга "Недозволенные речи", в которой собраны стенограммы публичных выступлений конструктора за 1989-2015 гг.
С 15 марта по 15 мая 2023 г. в московском Музее космонавтики будет проходить выставка "Секретный конструктор", посвященная Герберту Ефремову и приуроченная к его 90-летию.