Родился 9 февраля 1844 г. (28 января по старому стилю) в Санкт-Петербурге в семье театрального деятеля, драматурга, автора водевилей Федора Кони и актрисы Ирины Кони (Юрьевой).
В 1861 г. Анатолий Кони поступил на математическое отделение Санкт-Петербургского императорского университета, в 1862 г. перешел на юридический факультет Московского императорского университета, который окончил в 1865 г. со степенью кандидата.
В 1890 г. в Харьковском университете по совокупности работ получил ученую степень доктора уголовного права.
Деятельность во второй половине XIX века
После окончания университета служил в Военном министерстве, где состоял в распоряжении начальника Главного штаба графа Федора Гейдена для юридических работ.
С 1866 г., после организации новых судебных учреждений в соответствии с реформой 1864 г., Анатолий Кони стал служить по судебному ведомству. В апреле 1866 г. он поступил помощником секретаря в Санкт-Петербургскую судебную палату, в декабре 1866 г. стал секретарем прокурора Московской судебной палаты. В 1867 г. был назначен товарищем (заместителем) прокурора сначала Сумского, затем Харьковского окружного суда.
В 1869 г. находился лечении в Европе, где познакомился с министром юстиции графом Константином Паленом, который в дальнейшем способствовал его карьере.
С январе 1870 г. Анатолий Кони был товарищем прокурора Санкт-Петербургского окружного суда, с июня 1870 г. - Самарским губернским прокурором, с июля 1870 г. - прокурором Казанского окружного суда.
В 1871-1875 гг. - прокурор Санкт-Петербургского окружного суда.
В 1875-1877 гг. - вице-директор департамента Министерства юстиции Российской империи.
С 1876 по 1883 г. - член высочайше учрежденной комиссии для исследования железнодорожного дела в России, участвовал в создании устава российских железных дорог.
В 1876-1883 гг. преподавал теорию и практику уголовного судопроизводства в Императорском училище правоведения (Санкт-Петербург).
С 1877 по 1881 г. – председатель Санкт-Петербургского окружного суда. В 1878 г. председательствовал на судебном процессе о попытке убийства активисткой революционного движения Верой Засулич петербургского градоначальника Федора Трепова. Позиция Анатолия Кони способствовала оправданию Засулич присяжными.
В 1881-1885 гг. - председатель гражданского департамента Санкт-Петербургской судебной палаты.
С 1885 по 1891 г. - обер-прокурор уголовно-кассационного департамента Сената. В 1888 г. руководил следствием по делу о крушении поезда императора Александра III в Харьковской губернии.
В 1891 г. стал сенатором, в 1892-1896 гг. вновь исполнял обязанности обер-прокурора уголовно-кассационного департамента Сената с оставлением в звании сенатора.
С 1894 по 1899 г. участвовал в комиссии для пересмотра судебных уставов, выступал за несменяемость судей, невозможность передачи полиции следственных функций.
В 1900 г. Анатолий Кони оставил судебную деятельность, был переведен в общее собрание первого департамента Сената в качестве присутствующего сенатора. Участвовал в сенатских ревизиях, давал заключения на проекты сенатских определений о толковании законов, работал в составе различных комиссий.
Деятельность в начале ХХ века, убеждения, темы публицистики
С 1901 г. Анатолий Кони читал лекции по судебной этике в Александровском лицее.
В 1903 г. был избран гласным (депутатом) Санкт-Петербургской городской думы.
В 1904 г. был назначен членом комиссии по введению в действие Уголовного уложения 1903 г. В 1905 г. стал членом особого совещания по пересмотру законов о печати.
Летом 1906 г. премьер-министр Петр Столыпин предлагал Анатолию Кони войти в состав правительства и занять пост министра юстиции, однако сенатор отказался.
В 1907-1917 гг. - член Государственного совета с оставлением в звании сенатора.
Летом 1917 г. указом Временного правительства Анатолий Кони был назначен первоприсутствующим (председателем) в общем собрании кассационных департаментов Сената.
Во второй половине XIX – начале ХХ века Анатолий Кони получил широкую известность как либеральный правовед, судебный оратор и публицист. Его статьи и рецензии по разнообразным вопросам уголовного права, судоустройства и судопроизводства, юридической психологии, криминологии и судебной этики печатали ведущие издания ("Вестник Европы", "Московский юридический вестник", "Журнал министерства юстиции" и др.). Как юрист он отстаивал либерально-демократические принципы, выступал за сохранение основных положений судебной реформы 1864 г. (равенство сторон, недопустимость ущемления прав обвиняемых, публичность судебного разбирательства), гуманизацию пенитенциарной системы, был противником смертной казни и попыток сужения сферы юрисдикции суда присяжных. По своим политическим убеждениям принадлежал к либеральной оппозиции монархии, симпатизировал революционному движению. Помимо юридической публицистики, написал множество очерков, статей и рецензий, посвященных русской литературе, а также своим встречам с писателями Федором Достоевским, Львом Толстым, Иваном Тургеневым и др.
В годы советской власти
В ноябре - декабре 1917 г. Анатолий Кони лишился всех должностей в связи с ликвидацией Госсовета и Сената правительством большевиков.
В ноябре 1917 г. в ходе личной встречи с наркомом просвещения Российской Советской Республики Анатолием Луначарским Кони предложил свои услуги новым властям.
В 1918-1922 гг. он читал лекции в Петроградском университете, стал его профессором по кафедре уголовного судопроизводства. Кроме того, читал лекции по теории и истории ораторского искусства, этике общежития в Музее города, Институте живого слова, Институте кооператоров, Железнодорожном университете в Петрограде. Получал усиленный продовольственный паек, затем государственную пенсию.
В октябре 1919 г. на один день задерживался Петроградской ЧК, при этом значительная часть его имущества была конфискована и впоследствии не возвращена.
В 1922 г. написал комментарии к новому Уголовному кодексу РСФСР.
17 сентября 1927 г. Анатолий Кони скончался в Ленинграде (ныне Санкт-Петербург) в возрасте 83 лет. Первоначально был похоронен на Тихвинском кладбище Александро-Невской лавры, в 1930-х гг. его останки были перенесены на Литераторские мостки Волковского кладбища.
Участие в общественных организациях
Анатолий Кони был одним из учредителей и председателем юридического общества при Санкт-Петербургском университете, почетным членом Московского, Кавказского, Казанского, Киевского, Курского, Томского, Харьковского юридических обществ, почетным членом Военно-медицинской академии и Общества психиатров.
Классный чин, награды, почетные звания, книги
Имел чин действительного тайного советника (1910).
Был награжден орденами Святого Станислава I и II степеней (1889, 1868), Святой Анны I и II степеней (1895, 1872), Белого орла (1906), Святого Александра Невского (1915), Святого Владимира II-IV степеней (1874, 1886, 1898).
Почетный член Московского университета (1892).
Почетный академик по разряду изящной словесности Императорской Санкт-Петербургской академии наук (1900). Получил Пушкинскую золотую медаль от академии наук за критический разбор сочинения Николая Телешова "Повести и рассказы" (1901).
Автор книг "Судебные речи" (1888), "Отцы и дети судебной реформы" (1914), сборника воспоминаний "На жизненном пути" в пяти томах (1912-1929). В 1966-1969 гг. советское издательство "Юридическая литература" издало собрание сочинений Анатолия Кони в 8 томах.