Идея организации общедоступной библиотеки в России появилась в начале XVIII века. Проект Императорской Публичной библиотеки был одобрен Екатериной II в 1795 году. Место для публичной библиотеки было определено в самом центре столицы Российской империи, на углу Невского проспекта и Садовой улицы. Строительство здания в стиле классицизма по проекту архитектора Егора Соколова началось немедленно, но продолжалось около 15 лет.

В фонд библиотеки должны были войти: собрание российских книг с самого начала книгопечатания в России; книги, выпущенные на русском языке за рубежом; собрание книг о России, изданных на иностранных языках. В основу иностранного фонда библиотеки легла доставленная из Варшавы коллекция книг и рукописей братьев Залуских. Также по просьбе графа Александра Строганова в начале XIX века император Александр I купил коллекцию русского посланника во Франции Петра Дубровского, в которую входили ценнейшие документы по истории Франции, архивы известных людей, славянские рукописи. Большое количество книг и рукописей поступало в виде даров.

В 1809 году было составлено первое в России пособие по библиотечной классификации. В 1810 году был принят закон об обязательном экземпляре, согласно которому Публичная библиотека стала получать по два бесплатных экземпляра всех печатных изданий, выходивших на территории России.

Императорская библиотека была открыта для всех, всякий читатель «имел свободный вход в оную, какого бы звания или чина он не был». Директор библиотеки Алексей Оленин в августе 1814 года писал: «Истинная цель открытого книгохранилища состоит в том, чтоб всякий, кто бы он ни был, мог требовать для своего употребления всякого рода печатные книги, даже самые редкие... и пользоваться ими безмездно, не унося их токмо домой».

Библиотека несколько раз меняла своё название, пока 27 марта 1992 года не была преобразована в Российскую национальную библиотеку (РНБ).