Алексей Львович Рыбников родился 17 июля 1945 г. в Москве. Его отец был скрипачом, мать - художником- дизайнером. Рыбников начал увлекаться музыкой еще в детском возрасте: в 8 лет он написал несколько фортепианных пьес, в 11 лет - балет "Кот в сапогах".
В 1956-1962 гг. учился в Центральной музыкальной школе при Московской консерватории им. Чайковского. С 1967 г. окончил консерваторию по классу композиции (учился под руководством композитора Арама Хачатуряна), а в 1969 г. - аспирантуру по той же специальности.
В 1969 г. был принят в Союз композиторов СССР, после этого до 1975 г. преподавал в Московской консерватории на кафедре композиции.
Дебютом композитора стало исполнение собственной фортепианной сонаты "Хороводы", написанной на первом курсе консерватории. Дипломной работой композитора был концерт- баллада для скрипки с оркестром. По окончании аспирантуры Рыбников написал Первую симфонию, в последующие годы композитор стал автором еще пяти симфоний, создал ряд произведений симфонической, хоровой и камерной музыки.
С 1965 г. Алексей Рыбников пишет музыку к фильмам, первым опытом композитора стал короткометражный фильм "Лелька" (1966). Рыбниковым написана музыка более чем к 150 фильмам, среди самых известных - "Остров сокровищ" (1971), "Большое космическое путешествие" (1974), "Приключения Буратино" (1975), "Вам и не снилось..." (1980), "Тот самый Мюнхгаузен" (1981), "Мы" (1990), "Звезда" (2002). Был членом Союза кинематографистов СССР с 1979 г.
Широкую известность Рыбникову принесли написанные им рок-оперы "Звезда и смерть Хоакина Мурьеты" (на слова Павла Грушко) и "Юнона и Авось" (на основе поэмы Андрея Вознесенского), поставленные на сцене театра им. Ленинского комсомола режиссером Марком Захаровым в 1976 г. и 1981 гг. соответственно.
В 1988 г. Рыбников основал при Союзе композиторов Производственно-творческое объединение "Современная опера". В 1992 г. "Современная опера" представила публике оперу- мистерию "Литургия оглашенных", над которой композитор работал более десяти лет. Для этой постановки был создан Театр Алексея Рыбникова, в 1999 г. он получил государственную поддержку и был официально зарегистрирован как "Московская государственная творческая мастерская под руководством Алексея Рыбникова". Среди постановок театра - мюзикл "Буратино" (2005), шоу "Красная шапочка" (2006), спектакли "Аллилуйя любви" (2012), "Глазами клоуна" (2014) и др.
В 2010-2011 гг. Рыбников написал оперу по роману Льва Толстого "Война и мир". Опера готовится к постановке, отдельные сцены были представлены как часть спектакля "Аллилуйя любви".
Народный артист России (1999). Лауреат Государственной премии РФ 2002 г. в области киноискусства за работу над фильмом "Звезда". Награжден орденом Дружбы (2006), орденом Почета (2010).
Лауреат российской премии в области искусства "Триумф" (2007). За музыку к фильму "Звезда" получил призы кинофестиваля "Кинотавр" (2002), премии "Ника" (2003) и "Золотой орел" (2003).
В 2015 г. вышла автобиография Рыбникова "Коридор для слонов".
Женат. Супруга Татьяна, двое детей. Дочь Анна - кинорежиссер, сын Дмитрий - музыкант, композитор.