Действие фильма разворачивается в Москве в 70-х годах. Главные герои — Анатолий Ефремович Новосельцев и Людмила Прокофьевна Калугина. Он — сорокалетний, давно разведённый мужчина, один воспитывающий двух сыновей («отспоривший» их у бывшей жены, попросту сбежавшей к другому мужчине), работающий старшим статистиком в большом статистическом учреждении, без видимых перспектив карьерного роста, застенчив и неуверен в себе. Она — директор этого учреждения. У неё «Волга» с личным шофёром, хорошая квартира в центре Москвы, но она одинока и несчастлива в личной жизни, поэтому приходит на работу раньше всех и уходит со службы позже всех. Людмила Прокофьевна — сугубо деловой человек, погружённостью в работу подавившая в себе женское начало. Все сотрудники за глаза называют её «нашей мымрой» и «старухой», хотя ей всего лишь 36.Коллега и приятельница Новосельцева, Ольга Петровна Рыжова, подаёт Анатолию Ефремовичу идею — попросить у Калугиной повышение, должность начальника отдела лёгкой промышленности, чтобы не клянчить постоянно у сослуживцев «двадцатку до получки». Эта должность вакантна.Тем временем в учреждении появляется новый сотрудник — Юрий Самохвалов, назначенный заместителем Калугиной; с ним хорошо знакомы Новосельцев и Рыжова: они учились в одной группе в институте; у Ольги Петровны в институтские годы был роман с Самохваловым.Пользуясь своим служебным положением, Самохвалов пытается продвинуть старого друга в начальники отдела, но попытка заканчивается ничем: Калугина считает Новосельцева посредственным и безынициативным работником. Самохвалов предлагает Новосельцеву «приударить» за директрисой, чтобы получить заветное повышение. Новосельцев поначалу наотрез отказывается, он боится Калугину и совершенно не воспринимает её как женщину, — но от безысходности в конце концов соглашается.По случаю вступления в должность Самохвалов приглашает сослуживцев к себе на вечеринку, не в последнюю очередь, с целью «свести» Новосельцева с Калугиной; но «наша мымра» и посреди всеобщего веселья сохраняет официально-деловой тон и игнорирует неловкие попытки ухаживания со стороны Новосельцева. Изрядно выпивший старший статистик пытается очаровать начальницу своими талантами и, поскольку его способности в чтении стихов, пении и танцах не получают признания, в присутствии гостей называет Людмилу Прокофьевну «чёрствой» и «бессердечной». На следующий день, по совету Самохвалова, он приходит в кабинет к Калугиной, чтобы извиниться, делает это достаточно неуклюже и даже доводит Людмилу Прокофьевну до слёз. Анатолий Ефремович пытается успокоить Калугину, и она рассказывает ему печальную историю своего одиночества. Новосельцев обнаруживает, что глубоко заблуждался насчёт бессердечности и жестокости своей директрисы.Уже из искренних чувств к Калугиной Новосельцев начинает за ней ухаживать. В Людмиле Прокофьевне просыпается женское начало, и она постепенно влюбляется в своего подчинённого. В один из вечеров она приглашает Новосельцева к себе домой, где старшего статистика встречает очаровательная женщина, не имеющая ничего общего с «нашей мымрой». На следующее утро чудесно преобразившаяся Калугина производит фурор и в учреждении; впервые в жизни она опаздывает на работу. Анатолий Ефремович также преображается: к нему возвращается мужской кураж и уверенность в себе.В это же время всё ещё любящая Самохвалова Рыжова начинает забрасывать его письмами через секретаршу Калугиной Верочку, которая делает эти письма предметом сплетен и пересудов, стабильной «темой дня» в учреждении. Самохвалов жалуется активистке месткома Шуре на преследования со стороны Рыжовой и просит повлиять на неё. О поступке Самохвалова узнаёт Новосельцев и на глазах у Калугиной бьёт его по лицу. В отместку Самохвалов рассказывает Людмиле Прокофьевне, как его старый друг решил «приударить» за ней с целью повышения в должности. Калугина шокирована, она больше не верит в искренность чувств Новосельцева, и счастье влюблённых оказывается под угрозой.Но, несмотря на короткую потасовку в учреждении, герои всё-таки мирятся. И, по информации из финальных титров картины, «через девять месяцев у Новосельцевых было уже три мальчика».