Родился 19 февраля 1919 года в с. Ново-Ивановское Донецко-Амвросиевского района Донецкой области в многодетной крестьянской семье. Его детство и юность проходили в труднейших условиях. В 1936 г. окончивший с отличием среднюю таганрогскую школу им. А.П. Чехова А.А. Самарский долго колебался - поступать ли ему в знаменитый ИФЛИ (Институт философии, литературы и истории) или на менее знаменитый физический факультет МГУ. Выбор был сделан в пользу физики. В 1939 г. А.А. Самарский начал работать в научном семинаре А. Н. Тихонова, и это сотрудничество двух выдающихся ученых продлилось на многие десятилетия.

После окончания 4-го курса, в июле 1941 г. А.А. Самарский вступил добровольцем в 8-ую Краснопреснескую дивизию народного ополчения. 12 декабря 1941 г. в разведке, в тылу противника он подорвался на мине, его чудом оставшегося в живых, товарищи на руках вынесли за линию фронта, к своим. Осенью 1942 г. он был выписан из госпиталя на костылях, и приступил к работе учителя математики в средней школе в средней школе на золотом прииске "Коммунар" в Ширинском районе Крансноярского края. Профессор А.Н. Тихонов не терял из виду своего талантливого студента и в конце 1943 г. сумел добиться для него вызова в Москву с целью продолжения учебы на физфаке МГУ, который А.А. Самарский закончил в 1945 г.

Обучаясь в 1945 - 1948 гг. в аспирантуре, он, помимо кандидатской диссертации, выполнил около 20 научных работ, никак не связанных с основной темой (динамика сорбции и десорбции газов, теория радиоволноводов и т.д.), и после защиты стал преподавать в МГУ. В это же время в его судьбе произошел неожиданный переворот.

В июле 1948 г. решением директивных органов была создана специальная лаборатория, руководителем которой стал А.Н. Тихонов, а ведущим сотрудником - А.А. Самарский. Перед коллективом была поставлена беспрецедентная задача - обеспечить расчет мощности взрыва первой отечественной атомной (а впоследствии термоядерной) бомбы, используя полные математические модели, описывающие газодинамическое движение, перенос тела и нейтронов, энерговыделение и другие сложные процессы. Потребовалась огромная научная смелость и высочайшая квалификация для того, чтобы в считанные месяцы создать все необходимые компоненты новой методологии - математического моделирования и вычислительного эксперимента. Это позволило нашей прикладной математике внести незаменимый вклад в создание и совершенствование ракетно-ядерного щита страны, располагая гораздо более скромными, чем у зарубежных коллег, ресурсами.

Вся дальнейшая научная деятельность А.А. Самарского и руководимых им коллективов была посвящена разработке и применению триады математического моделирования "модель - алгоритм - программа". В 1953 г. А.А. Самарский возглавил один из основных научных отделов только что созданного Института Прикладной Математики АН СССР. В 1957 г. А.А. Самарский защитил докторскую диссертацию, в которой были заложены основы современной теории разностных схем. В последующие годы А.А. Самарский придал теории разностных схем, основанной на использовании метода операторных неравенств, ее нынешнюю классическую завершенную форму.

В 1986 г. по инициативе и под руководством А.А. Самарского была начата и через год завершена разработка Общегосударственной Программы по развитию и применению методов математического моделирования в науке и народном хозяйстве. В рамках этой программы в том же 1986 году была организован Всесоюзный Центр математического моделирования, директором которого стал Александр Андреевич. В 1990 году Центр был преобразован в первый в стране Институт математического моделирования РАН.

А.А. Самарский долгие годы возглавляет кафедру и две лаборатории на факультете вычислительной математики и кибернетики МГУ, кафедру в Московском физико-техническом институте. Он - заместитель академика-секретаря отделения информатики, вычислительной техники и автоматизации РАН, председатель Российского национального комитета по математическому моделированию и Научного совета по комплексной проблеме "Математическое моделирование" РАН, главный редактор созданного в 1989 году журнала "Математическое моделирование" РАН, член редколлегий ряда отечественных и иностранных научных изданий, организатор и активный участник многих национальных и международных научных форумов.

В своей многогранной деятельности А.А. Самарский опирается на своих многочисленных учеников, на созданную им многие десятилетия разветвленную научную школу. Свыше 50 лет он ведет педагогическую работу в МГУ и около 30 лет - в МФТИ. Среди его учеников более 100 кандидатов наук и 40 докторов наук, несколько членов Российской Академии наук, создавших собственные научные школы. Они работают во многих ведущих научных центрах России, стран СНГ, Балтии, Восточной и Западной Европы.

А. А. Самарский - ученый с мировым именем, основоположник отечественной школы математического моделирования, создатель фундаментальной общей теории разностных схем, автор более 20 монографий и 450 статей, выдающийся педагог, воспитавший не одно поколение известных ученых, активный организатор и яркий пропагандист науки.

Член-корреспондент (1966 г.), действительный член АН СССР (1976). Герой социалистического труда, Лауреат Ленинской и Государственной премий и премии М.В. Ломоносова, кавалер трех орденов Ленина, ордена Октябрьской революции, ордена Трудового Красного Знамени, ордена Дружбы народов России, орденов Славы и Отечественной войны 1-й степени, награжден медалями "За победу над Германией в Великой Отечественной войне", "За оборону Москвы". Заслуженный профессор МГУ им. М.В. Ломоносова, Почетный доктор Технического Университета в Хемнице (Германия), Почетный профессор Тбилисского университета и Таганрогского радиотехнического университета.

27 января 1999 г. решением Ученого Совета ЯГУ присвоено звание "Почетный профессор Якутского государственного университета" за заслуги в становлении якутской школы математиков и математического образования в Якутии.