Подготовительный процесс был долгим и кропотливым. Режиссёр и его помощники искали старых милиционеров, которые помнили 30-е годы, ездили к ним с расспросами, собирали любительские фотографии тех лет, скупали в комиссионках винтажную одежду, ездили в тюрьмы и на допросы, были понятыми на опознаниях, рылись в архивах… В одной из старых газетных вырезок Алексей Герман увидел фотографию с провинциальным пейзажем — гипсовые пионеры, деревянная Триумфальная арка, низкие домики. Оказалось, что это Астрахань, куда режиссёр и повёз съёмочную группу — снимать выдуманный Унчанск. В повести действие происходило в Ленинграде, но Герман хотел сделать камерную «чеховскую» историю, и большой город для этого не годился, хотя некоторые сцены там всё-таки сняли. В Астрахань съёмочной группе пришлось везти с собой… трамвай 30-х годов — в городе не нашлось ни одного старого транспорта.

На главную роль режиссёр принципиально искал малоизвестного актёра «с печатью смерти на лице». В результате проб был утвержден Андрей Болтнев, который работал в театрах Уссурийска и Новосибирска. После выхода фильма актёр стал очень популярен и за десять лет снялся в тридцати с лишним фильмах. Карьера была блестящей, но очень недолгой — в 1995 году он умер во сне… Для роли Ханина режиссёр, наоборот, искал известного актёра — среди кандидатов были Александр Филиппенко, Анатолий Васильев и Андрей Миронов, который и сыграл журналиста. У Ханина был прообраз — друг Юрия Германа, писатель и переводчик Валентин Стенич.

Сам Лапшин тоже был списан с реального человека — сотрудника уголовного розыска Ивана Бодунова. Он был другом Юрия Германа, а подружились они после того, как милиционеры взяли писателя «на дело» — дали оружие и поставили караулить окно. Писатель тогда не знал, что подвергать его жизнь риску не стали и поставили возле окна, откуда при всём желании никто не мог выскочить. Бодунов был человеком жестким и даже где-то жестоким, но писатель нашёл с ним общий язык и очень дорожил дружбой.

Режиссёру обязательно нужна была пасмурная погода со снегом, чтобы подчёркивала тяжесть времени, профессии, жизни главных героев… Герман снимал мрачный фильм и методы, которыми он пользовался, тоже были мрачными. Например, для съёмок сцены опознания убитых в морге режиссёр позвал актёров в настоящий морг с настоящими покойниками — хотел, чтобы они достоверно сыграли эмоции героев. Но актёры от неожиданности сыграли плохо — побелевший Болтнев сдернул простыню и замер, массовка без эмоций посмотрела, и в толпе раздался один спокойный голос: «Ай-ай-яй… За что же они его, а?». Сцена в фильм не вошла.

В одной из сцен с Андреем Мироновым снимался настоящий уголовник. За подготовительный период режиссёр насмотрелся на них настолько, что безошибочно вычислял в толпе. Он подошёл к одному человеку из рабочей группы, узнал, что тот действительно сидел 11 лет за воровство и убийство, и предложил сняться в роли бандита. Миронов своего партнёра по съёмочной площадке жутко боялся и говорил режиссёру, что готов на что угодно, «лучше пусть собаки съедят», только чтобы с ним не контактировать. Но стремящийся к правде Герман был непреклонен!

Ещё во время съёмок Герману говорили, что фильм собираются ставить на контроль в МВД, но он пожимал плечами: «Пусть лучше заботятся, чтобы у них сейчас всё было по закону, а за правду того, что у меня показано про 30-е годы, я ручаюсь. Я же не говорю, что так, как было, хорошо, я говорю, что так было». Готовый материал кому-то из высших чинов не понравился, и показ отложили. Цензуру волновал не сюжет, а гиперреализм и отсутствие романтизма обычных фильмов про милицию. Фильм стали называть хаотичным и отталкивающим, а Германа упрекать в очернении действительности: «Зачем он построил такие страшные бараки? Мы жили по-другому! Всё было по-другому! Не было таких улиц! Не было таких ужасающих квартир!». И слова режиссёра, что он снимал настоящие бараки под Ленинградом, где в 80-х жили люди, никто не хотел слышать… Через полгода фильм всё-таки вышел, а ещё через два года создатели фильма и актёры Андрей Болтнев и Нина Русланова получили Госпремии.