После окончания 9 классов школы в 1926 году, начал работать слесарем, а затем файнмехаником, в ЦАГИ. В 1930 году по направлению А. Н. Туполева, поступает в МВТУ им. Баумана. Дипломным проектом стал прибор «Жирограф», предназначенный для записи результатов измерений угловых скоростей самолета. Окончил МВТУ им. Баумана в 1935 году, работал в ЦАГИ, Лётно-испытательном институте. В 1943 году Николай Алексеевич Пилюгин защитил кандидатскую диссертацию. В 1944 году работает в отделе управления НИИ-1 по ракетной технике. В 1944—1946 года изучал по обломкам немецкую баллистическую ракету Фау-2. По предложению С. П. Королёва Пилюгин в 1946 году становится главным конструктором автономных систем управления в НИИ-885 и членом Совета главных конструкторовРазрабатывал системы управления ракет Р-1, Р-7 (выводившей на орбиту Спутник-1 и первого космонавта), руководил разработкой систем управления многих межпланетных станций, ракет «Протон», советского космического челнока «Буран». Был депутатом Верховного Совета СССР 7—10-го созывов.Дважды Герой Социалистического Труда (1956 и 1961). Награждён 5 орденами Ленина (1956,1958,1968,1975,1978), орденом Октябрьской Революции (1971) и медалями. Лауреат Ленинской премии (1957). Лауреат Государственной премии СССР (1967). Член-корреспондент АН СССР с 1958 года, академик с 1966 года. В 1969 году стал заведующим кафедрой Московского института радиотехники, электроники и автоматики.