В 1973 году окончил командный факультет Военной академии им. Ф. Э. Дзержинского (ныне — Военная академия РВСН имени Петра Великого). Позже, в 1980 году, завершил обучение в Военной академии Генерального штаба Вооружённых Сил СССР им. К. Е. Ворошилова.


Сергеев более 30 лет служил в Ракетных войсках на командных, штабных и инженерных должностях. В разные периоды он занимал посты начальника штаба полка, командира ракетного полка, начальника штаба и командира дивизии, заместителя начальника Главного штаба РВСН, заместителя главнокомандующего РВСН по боевой подготовке. В 1992–1997 годах был главнокомандующим РВСН.


Указом Президента РФ от 27 октября 1999 года за мужество и героизм, проявленные при исполнении воинского долга, Игорю Дмитриевичу Сергееву было присвоено звание Героя Российской Федерации с вручением медали «Золотая Звезда».

В 1997–2001 годах Сергеев занимал должность министра обороны РФ, а после отставки работал помощником президента по вопросам стратегической стабильности. Он был доктором технических наук, профессором, действительным членом Российской артиллерийско-ракетной академии наук, Академии военных наук и членом-корреспондентом Российской инженерной академии наук.


Имя Игоря Дмитриевича Сергеева носит одна из учебных аудиторий командно-инженерного факультета Военной академии РВСН имени Петра Великого.