Родился 15 ноября 1965 г. в Калининграде в рабочей семье.
В 1988 г. окончил ракетно-артиллерийский факультет Калининградского высшего военно-морского училища (ныне - Балтийский военно-морской институт имени Ф. Ф. Ушакова), в 2002 г. - Санкт-Петербургский международный институт менеджмента с присвоением квалификационной степени мастера делового администрирования (МВА), в 2010 г. - Северо-Западную академию государственной службы по специальности "Государственное и муниципальное управление" с присвоением квалификации менеджера.
После окончания училища был направлен на Северный флот. Служил в гг. Полярном и Североморске. Проходил службу на большом десантном корабле "Маршал Москаленко". В декабре 1991 г. уволился из рядов ВМФ по сокращению штатов в звании старшего лейтенанта.
С 1992 г. вернулся в Калининград, где занялся бизнесом.
В 1998 г. стал советником мэра Калининграда Юрия Савенко по экономическим вопросам.
4 марта 2001 г. Александр Ярошук был избран в городской Совет депутатов Калининграда III созыва по округу №16 (Ленинградский и Центральный районы города). В горсовете занимал пост заместителя председателя комиссии по экономической политике и муниципальной собственности. До 2006 г. совмещал депутатскую деятельность с предпринимательской, оставаясь гендиректором ООО "Бауцентр".
С 2002 по 2011 г. - секретарь политического совета отделения партии "Единая Россия" по Калининграду.
12 марта 2006 г. переизбран в городской Совет депутатов Калининграда IV созыва по Центральному округу №22. Баллотировался от "Единой России", на выборах получил 45,3% голосов. 20 марта того же года на первом заседании парламента был избран председателем горсовета (за - 19, против - двое из 21), сменив на этом посту Евгения Гана.
В 2007-2018 гг. - глава города Калининграда.
12 июля 2007 г. в Калининграде была принята новая редакция устава, изменившая систему местного самоуправления. Учреждены две руководящие должности: глава Калининграда - председатель окружного горсовета, который исполняет государственные полномочия и представительские функции, и глава администрации города (т. н. сити-менеджер), осуществляющий управление городским хозяйством. Поправки в устав вступили в силу в конце 2007 г. - после окончания полномочий действовавшего главы Калининграда Юрия Савенко (был избран в Госдуму РФ).
2 декабря 2007 г. Александр Ярошук был избран главой городского округа Калининграда. Баллотировался от партии "Единая Россия", набрал 52,2% голосов (второе место из шести кандидатов занял депутат окружного горсовета, самовыдвиженец Евгений Ган - 16,79%). Вступил в должность 22 декабря 2007 г. (одновременно возглавлял окружной совет депутатов). Первым сити-менеджером города в 2008 г. стал Феликс Лапин, в 2010 г. его сменила Светлана Мухомор.
16 августа 2010 г. партия "Единая Россия" включила главу Калининграда в список претендентов на должность губернатора области. Однако президент РФ Дмитрий Медведев внес на рассмотрение региональной облдумы кандидатуру Николая Цуканова, который и был утвержден на посту 30 августа (возглавлял область до июля 2016 г.).
В июле 2012 г. должность сити-менеджера Калининграда была упразднена, руководство администрацией города возложено на главу Калининграда, избираемого в ходе прямых выборов.
14 октября 2012 г. Александр Ярошук был переизбран главой городского округа "Город Калининград". Участвовал в выборах от партии "Единая Россия", набрал 56,62% голосов. Его основной соперник - Юрий Галанин от КПРФ - получил 13,59%. 1 ноября состоялась инаугурация главы города.
В ноябре 2016 г. в Калининграде были отменены прямые выборы мэра, главу города стал назначать окружной Совет депутатов из числа кандидатов, представленных конкурсной комиссией.
29 ноября 2017 г. Александр Ярошук вновь был избран главой города. Его кандидатуру поддержали 23 депутата окружного совета из 28 присутствовавших на заседании.
21 марта 2018 г. он покинул пост главы городского округа "Город Калининград" досрочно, заявив, что ему "поступило предложение перейти на новое место работы", связанное "с Калининградской областью". В свою очередь губернатор области Антон Алиханов пояснил, что отставка главы Калининграда была их с Ярошуком "совместным решением". Мэром города 18 апреля 2018 г. стал Алексей Силанов, бывший депутат Госдумы РФ VII созыва.
После ухода с госслужбы Александр Ярошук занял пост исполнительного директора, затем - регионального директора по Москве и Московской области ООО "Бауцентр рус".
В июле 2018 г. был выдвинут "Единой Россией" на довыборы в Государственную думу РФ VII созыва по Центральному одномандатному избирательному округу №98 г. Калининграда - на место, освободившееся после ухода из Думы Алексея Силанова.
В 2018-2021 гг. - депутат Государственной думы VII созыва. 9 сентября 2018 г. был избран в Госдуму от "Единой России" на довыборах в Центральном округе №98. Получил 40,09% голосов. Второе место в округе занял Игорь Ревин от КПРФ с результатом 22,48%.
19 сентября 2021 г. был избран депутатом Калининградской областной думы по списку "Единой России" (на выборах возглавлял региональную группу №19). 14 октября 2021 г. занял пост заместителя председателя регионального законодательного органа. Через неделю сложил депутатские полномочия досрочно в связи с переходом в Совет Федерации РФ.
С 2021 г. - член Совета Федерации РФ (сенатор) от Калининградской области. 21 октября 2021 г. наделен полномочиями сенатора - представителя законодательного органа власти региона. Сменил в Совфеде Алексея Короткова.
Член президиума Калининградского регионального политического совета партии "Единая Россия".
Входит в список резерва управленческих кадров президента РФ.
Награжден медалью ордена "За заслуги перед Отечеством" II степени (2006), Почетной грамотой президента РФ (2017).
Имеет орден Преподобного Сергия Радонежского III степени Русской православной церкви.