В 1957-1959 учился в Московской государственной консерватории.

В 1965 окончил режиссёрский факультет ВГИКа (мастерская Михаила Ромма) и шумно дебютировал фильмом «Первый учитель» по повести Чингиза Айтматова. В роли главной героини Алтынай снял молодую балерину Наталью Аринбасарову, на которой потом и женился.

В 1972 году Кончаловскому было присвоено звание лауреата Государственной премии Казахской ССР после всесоюзного успеха фильма по его сценарию «Конец атамана» (о ликвидации чекистами белого атамана Дутова, 30 млн зрителей за 1972 год).

В 1980 году Андрей Михалков-Кончаловский получил звание народного артиста РСФСР. В этом же году переехал в США. Карьера в Америке поначалу не складывалась. В это время в жизни Кончаловского и появилась американская актриса Ширли Маклейн. Она открыла для Кончаловского двери в мир Голливуда.

В настоящее время проживает с семьей как в России, так и за границей в равной степени, в зависимости от того, где работает.