Родился 8 октября 1873 г. в Кишиневе (Бессарабская губерния, Российская империя; ныне Молдавия) в дворянской семье.
В 1897 г. окончил с золотой медалью Высшее художественное училище при Императорской Академии художеств (дипломный проект - "Барская усадьба"), учился в мастерских Леонтия Бенуа и Ильи Репина. После окончания академии в ходе двухлетней пенсионерской поездки посетил Среднюю Азию и Западную Европу.
На раннем этапе творчества Алексей Щусев получил известность прежде всего как зодчий православных храмов. В 1901 г. он был принят на службу в канцелярию оберпрокурора Святейшего Синода, проектировал иконостас для Успенского собора Киево-Печерской лавры. В 1900-х - начале 1910-х гг. был автором восстановления Васильевского собора в Овруче и строительства Троицкого собора в Почаевской лавре (Украина). По его проекту были возведены храм и другие сооружения Марфо-Мариинской обители в Москве, храм Сергия Радонежского на Куликовом поле (Курская обл.), храм Христа Спасителя в Сан-Ремо и храм Николая Чудотворца в Бари (Италия). Получил известность как один из наиболее ярких представителей неорусского стиля.
В 1910 г. стал академиком архитектуры.
Известность Алексею Щусеву принесла в 1911 г. победа в конкурсе на строительство Казанского вокзала в Москве (завершен в 1930 г.). Помимо этого, работал над частными заказами, в том числе в Кишиневе.
После Октябрьской революции, в 1918-1923 гг. Алексей Щусев вместе с Иваном Жолтовским занимался разработкой плана развития столицы советского государства, получившего название "Новая Москва". По их замыслу город должен был планомерно расширяться в северном направлении до границ Московской окружной железной дороги (ныне Московское центральное кольцо, МЦК). Главная идея Щусева и Жолтовского состояла в "рассредоточении" Москвы с помощью городов-садов, замене некоторых кварталов на зеленые участки при сохранении всех памятников архитектуры. Застраивать Москву планировалось в стиле господствовавшего в 1910-х гг. направления неоклассицизма. План реализован не был.
В 1924 г. Алексей Щусев по заданию правительства создал проект мавзолея Ленина на Красной площади. Эта деревянная кубическая постройка со ступенчатой пирамидой на вершине была выстроена 25-27 января 1924 г. Щусев создал проект и второго деревянного мавзолея, открытого 1 августа 1924 г.: он отличался более монументальной формой, к нему архитектор добавил портик и трибуны для выступления на парадах. В январе 1925 г. стал победителем международного конкурса на строительство постоянного гранитного мавзолея. Новая постройка, созданная в соавторстве с Исидором Французом, в целом повторяла концепцию второго деревянного мавзолея и была открыта в марте 1930 г.
Среди других крупных проектов Щусева 1920-х гг. - здание Наркомата земледелия СССР (ныне Министерства сельского хозяйства) на Садово-Спасской улице Москвы, дом артистов МХАТа в Брюсовом переулке. Они были выполнены в стиле конструктивизма.
В 1930-х гг. Алексей Щусев работал по проектам расширения московских улиц и строительства новых жилых домов, в том числе в рамках генплана 1935 г. Среди наиболее известных проектов этого времени - застройка Смоленской набережной, проект переустройства Охотного Ряда и др. Участвовал в создании Большого Москворецкого моста (совместно с братом, инженером Павлом Щусевым), был одним из соавторов гостиницы "Москва" (снесена в 2004 г., восстановлена в 2013 г.).
По проекту Щусева в 1940-1947 гг. была проведена реконструкция правого крыла здания органов Госбезопасности на Лубянской площади: симметричный вид постройка (ныне здание ФСБ РФ) приобрела лишь в начале 1980-х гг. после достройки левого крыла.
После окончания Великой Отечественной войны создал проекты восстановления разрушенных городов СССР: Великого Новгорода, Кишинева и др., был автором здания Академии наук Казахской ССР в Алма-Ате и Театра им. А. Навои в Ташкенте.
Последним ярким проектом архитектора стала станция "Комсомольская" Кольцевой линии Московского метрополитена и ее вестибюль. Она была достроена уже после смерти Щусева, ее украсили мозаичные плафоны авторства Павла Корина.
Параллельно проектной деятельности преподавал во ВХУТЕМАСе (1920-1924) и Московском архитектурном институте (1948-1949). В 1922-1930 гг. Алексей Щусев возглавлял Московское архитектурное общество (в 1930 г. вошло в состав Всесоюзного архитектурно-научного общества), в 1926-1929 гг. - директор Третьяковской галереи. В 1946-1948 гг. - директор Музея архитектуры в Москве (ныне носит его имя).
Умер 24 мая 1949 г. в Москве в возрасте 75 лет, похоронен на Новодевичьем кладбище.
Заслуженный архитектор СССР (1930). Был награжден четырьмя Сталинским премиями (I степени - 1941, 1948, II степени - 1946 и 1952, посмертно), орденом Ленина (1947), двумя орденами Трудового Красного Знамени (1945).
Действительный член Академии наук СССР (1943).