Родился 7 августа 1945 г. в Ташкенте (Узбекская ССР, ныне Республика Узбекистан) в семье инженеров Бориса Марковича Гандельсмана и Ады Александровны Литвак-Журбиной.
В 1963 г. окончил Музыкальную школу им. В. А. Успенского при Ташкентской государственной консерватории (ныне Музыкальный академический лицей для одаренных детей при Государственной консерватории Узбекистана). В середине 1960-х гг. прошел срочную службу в Советской армии, участвовал в деятельности Ансамбля песни и пляски Туркестанского военного округа.
В 1969 г. в Москве завершил обучение в Государственном музыкально-педагогическом институте им. Гнесиных (ныне Российская академия музыки им. Гнесиных) по классу композиции профессора Николая Пейко.
В 1969-1970 гг. работал по распределению в Краснодарском государственном институте культуры, после чего поступил в аспирантуру Ленинградской (ныне Санкт-Петербургской) государственной консерватории им. Н. А. Римского-Корсакова. В 1972 г. сменил фамилию на Журбин. В интервью сообщал, что сделал это по причине трудного произношения фамилии Гандельсман. В 1973 г. окончил аспирантуру под руководством Юзефа Кона по кафедре теории музыки.
В начале композиторской карьеры Александр Журбин преимущественно работал в академических жанрах. Сочинил две симфонии (1969, 1970), концерты для фортепиано с оркестром (1972) и альта с оркестром (1974).
Известность Александру Журбину принесла музыка к первой советской рок-опере "Орфей и Эвридика" (либретто Юрия Димитрина). В 1975 г. она была поставлена режиссером Марком Розовским в оперной студии при Ленинградской консерватории. Заглавные партии исполнили Альберт Асадуллин и Ирина Понаровская. В дальнейшем композитор написал музыку к операм "Разбитое зеркало" (1979), "Луна и детектив" (1979), "Фьоренца" (1988) и др., балетам "Западня" (1978) и "Женитьба" (1986).
С 1970-х гг. работает в жанре музыкальной комедии. В числе его мюзиклов: "Близнецы из Фив" (1976), "Жужа из Будапешта" (1979), "Пенелопа" (1979), "Агент 00" (1983), "Пишите сумму прописью!" (1987), "Неизвестная любовь Наполеона" (1988).
В 1990-2001 гг. Александр Журбин проживал и работал в США. В 1991 г. в театре Walnut Street (Филадельфия, шт. Пенсильвания) состоялась премьера его мюзикла How it was done in Odessa по Исааку Бабелю (либретто Асара Эппеля). В 1992 г. создал русскоязычную театральную труппу "Блуждающие звезды". Коллектив осуществил девять постановок, большинство - с музыкой Журбина. В 1995 г. композитор сочинил 3-ю симфонию.
С начала 2000-х гг. преимущественно проживает в России, продолжает работать в различных жанрах.
В 2010 и 2015 гг. в Москве проходили фестивали творчества Александра Журбина. На них были представлены 4-я и 5-я симфонии композитора.
В 2015 г. в Московском государственном академическом Камерном музыкальном театре им. Б. А. Покровского состоялась премьера оперы Александра Журбина "Мелкий бес". В 2017 г. Московский академический музыкальный театр им. К. С. Станиславского и Вл. И. Немировича-Данченко представил его оперный триптих "Метаморфозы любви".
Александр Журбин является автором музыки к более чем 200 песням. Их исполняли Иосиф Кобзон ("Послевоенное танго"), Тамара Гвердцители ("Лошадка-жизнь"), Николай Караченцов ("Ради женщин"), Михаил Боярский ("Осенняя баллада"), Кристина Орбакайте ("Тучи в голубом") и другие известные артисты.
Музыка Александра Журбина звучит в нескольких десятках фильмов и сериалов. В их числе: "Все решает мгновение" (1978, режиссер Виктор Садовский), "Эскадрон гусар летучих" (1980, Станислав Ростоцкий и Никита Хубов), "Письма мертвого человека" (1986, Константин Лопушанский), "Московская сага" (2004, Дмитрий Барщевский), "Тяжелый песок" (2008, Антон Барщевский), "Странники терпенья" (2018, Владимир Алеников).
Был ведущим телепрограммы "Мелодии на память" (2007-2015, "НТВ-Мир"). В 2008-2011 гг. вел на радиостанции "Орфей" передачу "Звуки мюзикла", в первой половине 2010-х гг. - цикл "Музыкальные перекрестки".
Член Союза композиторов России, Союза кинематографистов РФ, Российской академии кинематографических искусств.
Входит в состав общественного совета Российского еврейского конгресса.
Член попечительского совета региональной общественной организации "Академия праздничной культуры".
В 2019 г. являлся председателем жюри IV Открытого конкурса композиторов "Время Прокофьева" (Москва).
Заслуженный деятель искусств РФ (2003).
Награжден орденом Почета (2010).
Лауреат премии города Москвы 2017 г. в области литературы и искусства.
Автор книг "Как это делалось в Америке" (1999), "Композитор, пишущий слова" (2005), "Орфей, Эвридика и я" (2006), "Моя музыкальная жизнь" (2012), "О временах, о музыке и о себе" (2016).
Женат вторым браком. Супруга - поэтесса Ирина Гинзбург (род. 1950). Сын - композитор Лев Журбин (род. 1978). Первой женой была композитор Лора Квинт (род. 1953). От брака с ней - сын Филипп Квинт (род. 1974, скрипач).