Родился 20 апреля 1938 г. в г. Верхнее Луганской области Украинской ССР (ныне г. Лисичанск, Луганская Народная Республика РФ) в семье шахтера. В детстве в годы Великой Отечественной войны проживал на территории, оккупированной немецкими войсками. После войны окончил среднюю школу с золотой медалью в г. Макеевке Донецкой области УССР.
Учился в Ленинграде (ныне Санкт-Петербург) в Высшем военно-морском гидрографическом училище, затем в Высшем военно-морском училище инженеров оружия. В 1960 г. окончил Черноморское высшее военно-морское училище им. П. С. Нахимова (Севастополь) по специальности "реактивное оружие береговой артиллерии", в 1973 г. - командный факультет Военной академии им. Ф. Э. Дзержинского (ныне Военная академия Ракетных войск стратегического назначения имени Петра Великого, г. Балашиха, Московская обл.), в 1980 г. – Военную академию Генерального штаба Вооруженных сил (ВС) СССР им. К. Е. Ворошилова.
Доктор технических наук, в 1994 г. защитил диссертацию по системам боевого управления.
С 1960 г. служил в Ракетных войсках стратегического назначения ВС СССР, в только что сформированной в г. Луцке Волынской области УССР 37-й гвардейской ракетной Севастопольской орденов Ленина и Кутузова дивизии. Был начальником отделения проверки ракет, заместителем командира батареи по технической части, помощником начальника инженерно-ракетной службы ракетного полка, замкомандира дивизиона по ракетному вооружению, замначальника отделения боевой готовности и боевой подготовки дивизии. В 1970-1973 гг. - начальник штаба полка 37-й ракетной дивизии.
В 1973 г. подполковник Сергеев был назначен командиром 543-го ракетного полка 19-й ракетной Запорожской Краснознаменной дивизии (штаб – г. Хмельницкий, УССР).
С февраля 1975 г. - начальник штаба, с сентября 1975 г. - командир 46-й ракетной Нижнеднепровской ордена Октябрьской Революции Краснознаменной дивизии (штаб – г. Первомайск Николаевской области УССР), на вооружении которой находился ракетный комплекс УР-100Н. Занял пост комдива в возрасте 37 лет в звании полковника.
С июля 1980 г. - начальник штаба - первый заместитель командующего 43-й Краснознаменной ракетной армии (штаб - г. Винница, УССР), которая являлась самой мощной в составе РВСН СССР. В ее структуру входили восемь ракетных дивизий, более 350 стратегических носителей ядерного оружия, в том числе новейшие комплексы РСД-10 "Пионер" (мобильные грунтовые) и УР-100НУ (шахтные).
В марте 1983 г. был переведен в Подмосковье на должность начальника Оперативного управления – заместителя начальника Главного штаба РВСН. С сентября 1985 г. - первый замначальника Главного штаба.
С марта 1989 г. - заместитель главнокомандующего Ракетными войсками по боевой подготовке – начальник Управления боевой подготовки, член Военного совета Ракетных войск.
26 августа 1992 г. был назначен главнокомандующим РВСН, председателем Военного совета Ракетных войск. В тот момент российские РВСН находились на этапе создания и некоторое время существовали параллельно со Стратегическими силами Объединенных вооруженных сил СНГ. Игорь Сергеев занимал пост главкома РВСН в условиях экономического кризиса в стране и сокращения финансирования ВС. В период его руководства РВСН Россия сокращала число своих стратегических носителей в соответствии с международными соглашениями (СНВ-1), осуществляла вывод ядерных вооружений из стран бывшего СССР, отказавшихся от "ядерного статуса". Ракетные войска столкнулись со сложностями при испытании новой техники (в частности, межконтинентальных баллистических ракет "Тополь-М"). Коллеги Игоря Сергеева отмечали, что главком неоднократно лично нес дежурство на Центральном командном пункте РВСН. По отзывам СМИ и экспертов, ему удалось сохранить на высоком уровне боеспособность ракетных войск в кризисный период 1990-х гг. Также в 1990-х гг. возглавлял государственную комиссию по испытаниям систем автоматизированного управления войсками и оружием.
22 мая 1997 г. в ходе заседания Совета обороны РФ президент РФ Борис Ельцин назначил Игоря Сергеева и. о. министра обороны. Предыдущий глава ведомства Игорь Родионов и начальник Генштаба Виктор Самсонов были уволены Борисом Ельциным на этом же заседании за "медленное продвижение военной реформы".
На следующий день, 23 мая, указом главы государства Сергеев был назначен министром обороны России (одновременно с июня 1997 г. - член Совета обороны, с июля - постоянный член Совета безопасности РФ). Занимал пост главы военного ведомства в правительствах Виктора Черномырдина (1997-1998), Сергея Кириенко (1998), Евгения Примакова (1998-1999), Сергея Степашина (1999), Владимира Путина (1999-2000). 18 мая 2000 г. был назначен министром обороны РФ в правительстве Михаила Касьянова (в 2023 г. включен в реестр иноагентов).
Игорь Сергеев участвовал в создании Концепции национальной безопасности и военной доктрины РФ. Разработал проект Плана строительства Вооруженных сил на 2001-2005 гг. Выступал за приоритет РВСН в системе обороны страны. Объединил ВВС и ПВО в единый вид вооруженных сил, слил вместе Сибирский и Забайкальский военные округа. Сокращал Сухопутные войска, одновременно выступая за создание в них частей и соединений высокой боеготовности.
С лета 1999 г. вместе с начальником Генштаба Анатолием Квашниным занимался организацией отражения атаки боевиков на Дагестан и последующей военной кампанией (антитеррористической операцией) в Чечне. В отличие от первой чеченской войны 1994-1996 г., российские войска понесли в ней существенно меньшие потери и к весне 2000 г. разгромили большую часть бандформирований по всей территории Чеченской Республики, де-факто ликвидировав Ичкерию - непризнанное государственное образование сепаратистов.
28 марта 2001 г. Игорь Сергеев ушел в отставку (одновременно с министрами внутренних дел Владимиром Рушайло и атомной энергии Евгением Адамовым). Как объяснил тогда президент РФ Владимир Путин, одной из главных задач произведенных перестановок была "демилитаризация" силовых ведомств. Новым главой Минобороны стал один из ближайших соратников президента РФ, кадровый разведчик Сергей Иванов.
В апреле 2001 г., вскоре после отставки Игоря Сергеева, РВСН перестали быть самостоятельным видом вооруженных сил и были преобразованы в два самостоятельных рода войск - Ракетные и Космические войска.
С 28 марта 2001 г. по 30 марта 2004 г. работал в Администрации президента РФ Владимира Путина, занимал должность помощника главы государства по вопросам стратегической стабильности.
В 2002-2004 гг. - зампредседателя Российского организационного комитета "Победа", с 2005 г. - президент Клуба военачальников РФ.
Скончался 10 ноября 2006 г. от тяжелого гематологического заболевания (гемобластоза) в Военном клиническом госпитале им. Н. Н. Бурденко в Москве. Похоронен на Троекуровском кладбище Москвы.
Маршал Российской Федерации (с 21 ноября 1997 г.) - единственный в истории военачальник, получивший это звание.
Герой России (1999). Награжден орденами Октябрьской Революции (1987), Трудового Красного Знамени (1988), Красной Звезды (1982), "За службу Родине в Вооруженных Силах СССР" III степени (1976),"За заслуги перед Отечеством" II степени (2001), "За военные заслуги" (1995), Почета (2003). Трижды отмечался благодарностями президента РФ (1998 и дважды в 1999 г.). Также имел ордена "Манас" III степени (Киргизия, 1999) и Югославской звезды I степени (Югославия, 1999).
Лауреат премии правительства РФ в области науки и техники.
Являлся действительным членом Российской инженерной академии, Академии военных наук, членом-корреспондентом Российской академии ракетно-артиллерийских наук.
Автор ряда научных трудов по проблемам обеспечения боевой готовности, организации боевой подготовки войск, автоматизации управления РВСН, строительства РВСН и реформирования ВС РФ.
Был женат, имел двух детей. Супруга Тамара Александровна - сестра Владимира Яковлева, офицера-ракетчика, главкома РВСН в 1997-2001 гг. Сын Дмитрий - выпускник Московского автодорожного института. Старшая дочь погибла в 1980 г. в автомобильной катастрофе.
Увлекался бадминтоном, футболом, волейболом, легкой атлетикой. Играл на баяне.