Действие фильма разворачивается в послевоенной Москве в августе-ноябре 1945 года. Сотрудники отдела НКВД по борьбе с бандитизмом, московского уголовного розыска ( аббр. МУР) — опытный оперативник Глеб Жеглов (Владимир Высоцкий) и герой-разведчик, фронтовик, но новичок в сыскном деле Владимир Шарапов (Владимир Конкин) — противостоят банде грабителей «Чёрная кошка», которая грабит магазины и безжалостно убивает тех, кто попадается им на пути. В первый же день службы Шарапова в МУРе оперативник из Ярославля Василий Векшин, вызванный в Москву для внедрения в банду, идёт на заранее назначенную встречу с бандитом. Жеглов, Шарапов и другие товарищи наблюдают за этой встречей. Но пришедший бандит, выбрав удачный момент, «прощается» с Василием, а затем вскакивает на подножку проходящего трамвая. Когда товарищи подходят к сидящему на скамейке Векшину, выясняется, что он убит: бандит ловко воткнул в него заточку. Сотрудники отдела выезжают по вызову на склад, который грабит банда. Шарапов сталкивается с одним из бандитов, но тот, прикинувшись фронтовиком, обманывает Шарапова и уходит. Параллельно Шарапов расследует убийство некой Ларисы Груздевой. Главный подозреваемый — её бывший муж, так как в его квартире нашли орудие убийства. Однако Шарапов, видя нестыковки в показаниях, не уверен в виновности Груздева и стремится непредвзято разобраться в обстоятельствах дела. Во время общегородской операции оперативники в одном заведении проверяют документы. Из заведения вдруг убегает молодая дама. Шарапов, обнаружив это, приказывает своему коллеге Николаю Тараскину встать на его, Шарапова, место, а сам устремляется в погоню, задерживает ту самую даму и вместе с ней возвращается обратно.