Родился 19 февраля 1919 г. на хуторе Свистуны Екатеринославской губернии (ныне – одноименное село на территории Донецкой Народной Республики) в крестьянской семье. Среднюю школу окончил в Таганроге (Северо-Кавказский край, ныне – Ростовская обл.).
В 1936 г. поступил на филологический факультет Московского государственного университета (МГУ). Затем перевелся на физический факультет. Окончил университет с отличием в 1945 г. Затем до 1948 г. учился в аспирантуре МГУ по профилю математической физики.
Доктор физико-математических наук. В 1948 г. защитил кандидатскую диссертацию, посвященную исследованию влияния возмущения формы области на изменение собственных значений оператора Лапласа. В 1957 г. - докторскую на тему "Применение математических методов к задачам физики и техники". В 1958 г. получил ученое звание профессора. В 1966 г. был избран членом-корреспондентом, в 1976 г. - академиком Академии наук СССР (впоследствии - Российская академия наук, РАН).
После начала Великой Отечественной войны, в июле 1941 г. записался добровольцем в 8-ю Краснопресненскую дивизию народного ополчения Москвы. Участвовал в боях под Ельней, Вязьмой, Наро-Фоминском, Павловской Слободой. В декабре 1941 г. получил тяжелое ранение, многочисленные осколочные ранения обеих ног. Перенес более 15 операций. В сентябре 1942 г. был демобилизован из последнего госпиталя, находившегося в г. Минусинске Красноярского края. Работал учителем физики и математики в средней школе на золотом прииске "Коммунар" в Хакасской автономной области Красноярского края. В декабре 1943 г. вернулся в Москву и продолжил учебу в МГУ.
С 1948 г. работал в составе группы исследователей во главе математиком членом-корреспондентом АН СССР Андреем Тихоновым, принимавшей участие в математическом обеспечении советского атомного проекта. В 1949-1953 гг. под руководством Андрея Тихонова и Александра Самарского впервые был проведен прямой математический расчет модели атомного взрыва, в дальнейшем группа рассчитала динамику взрыва термоядерного заряда.
В 1953 г. Александр Самарский возглавил отдел в организованном в том году в Москве Институте прикладной математики АН СССР (ныне носит имя своего основателя и первого директора Мстислава Келдыша).
В 1986 г. стал директором-организатором Всесоюзного центра математического моделирования АН СССР, который в 1990 г. был преобразован в Институт математического моделирования (ныне - ИММ РАН, Москва). Возглавлял институт до 1998 г.
С 1998 г. был советником РАН. Являлся членом Отделения математических наук Академии наук (секция прикладной математики и информатики), председателем Научного совета по комплексной проблеме "Математическое моделирование".
Возглавлял Национальный комитет по математическому моделированию, представляющий отечественную науку в международной ассоциации "Математика и компьютеры в моделировании" (IMACS). Был основателем и главным редактором журнала "Математическое моделирование" (с 1989 г.).
Одновременно с научной деятельностью преподавал в МГУ (с 1945 г.) и Московском физико-техническом институте (МФТИ). Был первым заведующим лаборатории математического моделирования в физике, созданной в составе кафедры вычислительной математики МГУ (1978-1987), одним из организаторов факультета вычислительной математики и кибернетики (ВМиК) МГУ (1970), основателем и первым заведующим кафедры вычислительных методов ВМиК (с 1982 г.). В МФТИ заведовал кафедрой математического моделирования факультета прикладной математики и экономики (с 1969 г.).
Скончался 11 февраля 2008 г. в Москве, похоронен на Троекуровском кладбище столицы.
Александр Самарский - один из основоположников современной методологии математического моделирования и вычислительного эксперимента, а также математического моделирования в естественных науках, создатель фундаментальной общей теории разностных схем. Им были разработаны используемые в настоящее время методы численного решения задач механики, ядерной физики, физики плазмы. Ученым опубликовано свыше 500 научных работ, более 30 монографий и учебных пособий. Среди них - "Уравнения математической физики" (1951, в соавторстве с А. Н. Тихоновым; учебник выдержал семь изданий и был переведен на 13 иностранных языков), "Введение в теорию разностных схем" (1971), "Устойчивость разностных схем" (1973), "Разностные схемы газовой динамики" (1975), "Разностные методы решения эллиптических уравнений" (1976), "Теория разностных схем" (1977), "Введение в численные методы".
Он был удостоен звания Героя Социалистического Труда (1979). Награжден тремя орденами Ленина (1954, 1956, 1979), орденами Трудового Красного Знамени (1969), Октябрьской Революции (1975), Славы III степени (1980), Отечественной войны I степени (1985), Дружбы народов (1993), медалями "За оборону Москвы", "За победу над Германией в Великой Отечественной войне 1941-1945 гг.", " Народное Ополчение Москвы" и др.
Был лауреатом Сталинской (1954) и Ленинской (1962) премий, Государственных премий СССР (1965) и РФ (1999) в области науки и техники, а также премии им. М. В. Ломоносова за научные работы I степени МГУ (1997).
Являлся заслуженным профессором МГУ (1993), иностранным членом Национальной академии наук Украины (2000), почетным доктором и почетным профессором ряда отечественных и зарубежных университетов.