Родился 21 октября 1954 г. в Гомеле Белорусской ССР (ныне Белоруссия).
В 1976 г. окончил факультет международных экономических отношений Московского государственного института международных отношений МИД СССР (ныне МГИМО МИД России).
Доктор юридических наук. В 1999 г. в МГИМО защитил кандидатскую диссертацию по теме "Актуальные проблемы прогрессивного развития международного космического права", в 2001 г. в Академии МВД РФ - в виде научного доклада докторскую диссертацию (тема: "Международно-правовые проблемы международных программ исследования и использования космоса").
С 1976 г. работал на различных дипломатических должностях в центральном аппарате МИД, в частности, в Управлении международных организаций МИД СССР.
В 1981-1986 гг. сотрудник постоянного представительства СССР при ООН в Нью-Йорке (США).
С 1986 г. был заведующим отделом в управлении оценок и планирования, затем - заведующим отделом управления по безопасности и сотрудничеству в Европе МИД СССР.
В 1990—1993 гг. - заведующий отделом департамента общеевропейского процесса МИД СССР, затем МИД РФ.
В 1993-1995 гг. - заместитель директора департамента международного научно-технического сотрудничества МИД России.
С 1995 по 1997 г. - заместитель директора департамента по вопросам безопасности и разоружения МИД России, одновременно - представитель России в Совете управляющих Международного научно-технического центра (Москва).
В 1997-2000 гг. - заместитель постоянного представителя РФ при международных организациях в Вене, Австрия.
В 2000-2005 гг. - директор департамента информации и печати, официальный представитель МИД России.
С 5 августа 2005 г. по 24 января 2011 г. - заместитель министра иностранных дел РФ Сергея Лаврова. Курировал вопросы многосторонней дипломатии: участие России в ООН, ЮНЕСКО и других международных организациях, международное экономическое и гуманитарное сотрудничество, соблюдение прав человека, экологическое сотрудничество, вопросы изменения климата, культуры и спорта.
С 24 января 2011 г. по 26 августа 2019 г. - чрезвычайный и полномочный посол Российской Федерации в Соединенном Королевстве Великобритании и Северной Ирландии. Руководил российской дипмиссией более восьми лет. На это время пришлось обострение российско-британских отношений. В 2014 г. Великобритания присоединилась к антироссийским санкциям, введенным Евросоюзом из-за воссоединения Крыма с РФ. В марте 2018 г. официальный Лондон обвинил Россию в причастности к отравлению в Солсбери экс-полковника ГРУ Сергея Скрипаля и его дочери. При этом власти Великобритании каких-либо доказательств не представили. Российская сторона категорически отвергла свою причастность к инциденту. В марте 2018 г. страны обменялись взаимной высылкой дипломатов. Весной 2019 г. издание The Mail of Sunday обвинило Александра Яковенко в "шпионаже" во время его работы в постпредстве СССР в Нью-Йорке в 1981-1986 гг. В ответ российский дипломат назвал публикацию "охотой на ведьм" и "неприемлемым заявлением".
В августе 2019 г. назначен ректором Дипломатической академии МИД РФ.
Имеет дипломатический ранг чрезвычайного и полномочного посла (2004).
Награжден орденами Дружбы (2002), Почета (2012), Александра Невского (2019), медалью ордена "За заслуги перед Отечеством" I и II степени (2005, 1996). Отмечен Почетной грамотой президента РФ (2009), Почетной грамотой и благодарностью правительства РФ (2008).
Имеет орден Почета (Южная Осетия, 2024).
Владеет английским и французским языками.
Женат, имеет дочь.