Лейтенанта милиции Глазычева вызывают на очередное происшествие - в поезде оставлена крупная овчарка, которая бросается на всех, кто пытается войти в вагон. Глазычеву удается изловить зверя и отправить его в милицейский собачий питомник, но и там пёс продолжает демонстрировать отвратительный нрав - кидается на всех, даже на тех, кто его кормит. Милиция находит хозяйку собаки, которая бросила Мухтара в вагоне, потому что он, видите ли, посмел ее не послушаться и даже - надо же, какая наглость! - на неё зарычать. Начальник питомника предлагает женщине продать собаку, та соглашается и выторговывает за пса 100 рублей (кстати, среднемесячная зарплата в 1964 году составляла 88 рублей). Милиционеры надеются сделать из Мухтара настоящую служебно-розыскную собаку. Но ничего не получается, собака на контакт не идет. Пса признают негодным к службе и собираются выбраковать. Пожалев бедолагу, Глазычев берёт его "на поруки". Так начинается их совместное "притирание", а потом и дружба, и служба...