30 мая 2001 года легенде российской контрразведки Герману Угрюмову было присвоено звание адмирала. На следующий день после этого адмирал умер от сердечного приступа в своем рабочем кабинете на территории штаба военной группировки в поселке Ханкала. При вскрытии были обнаружены следы семи микроинфарктов.
В подчинении Угрюмова состоял Центр специального назначения ФСБ РФ, в который входили группы «Альфа» и «Вымпел». При участии Угрюмова были разработаны и проведены спецмероприятия, в результате которых были уничтожены многие руководители бандформирований. С его именем связывают также бескровное взятие Гудермеса в декабре 1999 года и захват Салмана Радуева в марте 2000 года.