Первый музыкальный опыт Легран получил у своего отца Раймонда Леграна, руководителя одного из оркестров варьете. Мать Леграна — Айкануш Марсель Тер-Микаелян, армянская пианистка.Был знаком с Эдит Пиаф и Морисом Шевалье. В 1952 г. заканчивает парижскую консерваторию и отправляется в турне по США.С конца 50-х годов начинает писать музыку к голливудским фильмам, которая приносит ему мировую славу. Самое известное его произведение — музыка к фильму «Шербурские зонтики» (1964 г., с Катрин Денёв в главной роли). Три раза награждён премией «Оскар», номинаций на Оскар шесть, три раза номинировался на премию «Сезар» и один раз награждён «Золотым Глобусом» — номинаций на «Золотой глобус» - восемь. Автор музыки к двумстам фильмам.Как джазовый пианист работает с Джанго Рейнхардом и Биксом Бейдербеком. В 1958 г. записал альбом с Дональдом Бирдом, Джоном Колтрейном и Беном Вебстером. В 1978 г. записал альбом «Le Jazz Grand», в 1991 г. — «Dingo», за что удостоился премии «Грэмми».Параллельно выступает как дирижёр и пианист классической музыки. После концерта в парижской «Олимпии» в 1991 г., неоднократно выступал с Тамарой Гвердцители, писал для неё музыку.