Родился 27 января 1842 г. в местечке Карасу (Карасевка) близ Мариуполя (Екатеринославская губерния, Российская империя, ныне на территории Украины) в семье бедного сапожника, по происхождению - приазовского грека. Рано стал сиротой, воспитывался родственниками. С детства увлекался рисованием, при этом работал пастухом, прислуживал у торговцев.

Летом 1855 г. пешком отправился в Феодосию (Крым). В этом городе находилась студия художника Ивана Айвазовского, куда он был рекомендован. Однако прожив там несколько месяцев, не был принят, после чего работал ретушером в фотоателье в Мариуполе, Одессе, Таганроге. При этом продолжал самостоятельно учиться живописи. На накопленные деньги Архип Куинджи в 1866 г. переехал в Санкт-Петербург, где продолжил работу ретушером и пытался поступить вольнослушателем в Императорскую Академию художеств. Это удалось ему только с третьей попытки, в 1868 г., по итогам академической выставки. Учебу не закончил.
В 1870 г. впервые побывал на острове Валаам. Серия картин оттуда ("Ладожское озеро", "На острове Валааме") впервые принесла художнику известность, они экспонировались на международных выставках.
С 1874 г. Архип Куинджи принимал участие в деятельности Товарищества передвижных художественных выставок (ТПХВ), в 1877 г. стал полноправным членом ТПХВ, однако в 1879 г. покинул его.
В середине 1870-х гг. определилась основная манера живописи Архипа Куинджи: монументально-эпическая композиция с использованием необычных световых эффектов, достигаемая экспериментами с красками. Вместо обычного романтизма полотна художника перешли в категорию философского пейзажа, который должен был вызывать у зрителя размышления о самом себе и о вселенной. Особенную известность получила манера изображения лунного света и передачи световоздушной среды.
К концу 1870-х гг. Архип Куинджи стал одним из самых высокооплачиваемых русских художников. Основным покупателем его картин был Павел Третьяков. В 1880 г. после выставки в Обществе поощрения художеств (Санкт-Петербург) картины "Лунная ночь на Днепре" полотно было куплено Великим князем Константином Константиновичем.
На пике славы, в 1882 г., Архип Куинджи принял решение больше не выставлять свои картины. Предположительно, это произошло из-за агрессивной критики: его часто осуждали за "дешевые эффекты" при подсветке картин, якобы для придания им "таинственного вида".
В период "затворничества" в 1886 г. Архип Куинджи купил небольшое имение близ пос. Кикенеиз (ныне пос. Оползневый, городской округ Ялта) в Крыму, также путешествовал по Кавказу. Продолжал активно рисовать, создав за это время несколько сотен картин и эскизов.
В 1892 г. получил звание профессора, в 1893 г. - действительного члена Императорской академии художеств, в 1894-1897 гг. руководил ее пейзажной мастерской. Среди наиболее видных его учеников - Константин Богаевский, Николай Рерих, Аркадий Рылов.
В 1901 г. провел серию выставок своих новых работ, после чего снова перестал выставляться. Многие из наиболее знаменитых шедевров Куинджи стали известны публике только после его смерти.
В 1909 г. основал Общество художников (с 1909 г. - Общество им. А. И. Куинджи), просуществовавшее до 1931 г.
Скончался 24 июля (11 июля по ст. ст.) 1910 г. в Санкт-Петербурге в возрасте 68 лет от воспаления легких. Был похоронен на Смоленском православном кладбище. Надгробие над могилой было сооружено Алексеем Щусевым (памятник), Владимиром Беклемишевым (бюст художника) и Николаем Рерихом (панно за бюстом). В 1952 г. прах и надгробие были перенесены на Тихвинское кладбище Александро-Невской лавры.
Среди наиболее знаменитых картин Куинджи - "Украинская ночь" (1876), "Березовая роща" (1879), "Пятна лунного света в лесу. Зима" (1898-1908), "Ай-Петри. Крым" (1890-е гг.), "Ночное" (1905-1908). Многие из своих работ Куинджи копировал под заказ, например, только в различных музеях хранится как минимум семь авторских вариантов или повторений "Ночи на Днепре".
Картины Архипа Куинджи находятся в собраниях Государственной Третьяковской галереи (Москва), Государственного Русского музея (Санкт-Петербург), "Метрополитен-музея" (Нью-Йорк) и др. Самая масштабная выставка-ретроспектива работ художника прошла в 2018-2019 гг. в Государственной Третьяковской галерее. В ходе нее была похищена, но вскоре найдена с минимальными повреждениями картина "Ай-Петри. Крым" из собрания Русского музея.

Архип Куинджи был женат, супруга - Вера Леонтьевна Шаповалова (1855 или 1854 - 1920). Детей у художника не было.