Родился 1 июня 1956 г. в деревне Никольское Альшеевского района Башкирской АССР (ныне - Республика Башкортостан).
В 1978 г. окончил Московский инженерно-строительный институт им. Куйбышева (ныне - Национальный исследовательский московский государственный строительный университет) по специальности "инженер-строитель".
После вуза был принят на должность старшего инженера в московский Домостроительный комбинат №1 (ДСК-1), который до настоящего момента остается крупнейшим предприятием в Москве и России по производству и строительству жилых домов (ныне - АО "ДСК-1"). Работал на комбинате 38 лет. В 1990-х гг. занимал должность первого заместителя генерального директора, в начале 2000-х гг. являлся директором по строительству. С апреля 2008 г. по март 2016 г. - генеральный директор ДСК-1. Ушел с поста вскоре после покупки комбината финансово-строительной корпорацией "Лидер". По данным мэрии Москвы, под руководством Константинова ДСК-1 ввел в строй более 30 млн кв. м недвижимости, застроив новые районы: Крылатское, Братеево, Строгино, Солнцево, Тропарево, Митино, Бутово и др.
В 2016-2017 г. Анатолий Константинов был заместителем директора принадлежащего московской мэрии АО "Управление экспериментальной застройки микрорайонов".
В 2017-2024 гг. занимал должность генерального директора Фонда реновации жилищного фонда Москвы (УНО "Московский фонд реновации жилой застройки").
Заслуженный строитель РФ (1993).
Награжден орденами Почета (2012) и Дружбы (2004).
Почетный житель муниципального образования Солнцево в Москве (2011).