Родился 6 апреля 1836 г. (по старому стилю 25 марта 1836 г.) на хуторе близ города Дубоссары Тираспольского уезда Херсонской губернии Российской империи (ныне непризнанная Приднестровская Молдавская Республика) в небогатой многодетной семье. Его отец, Василий Павлович Склифосовский, потомственный дворянин, служил письмоводителем Дубоссарской карантинной конторы. Из-за нужды родители были вынуждены отдать часть детей, в том числе Николая, в детский приют Одессы.
Впоследствии Николай Склифосовский окончил с серебряной медалью 2-ю Одесскую гимназию. В 1854 г. поступил и в 1859 г. окончил медицинский факультет Московского университета (ныне МГУ им М. В. Ломоносова), был учеником известного хирурга Федора Иноземцева.
Доктор медицины (в 1863 г. в Харьковском университете защитил диссертацию на тему "О кровяной околоматочной опухоли").
После окончания Московского университета Николай Склифосовский начиная с 1859 г. работал в Одесской городской больнице сначала ординатором, затем заведующим хирургическим отделением.
В 1866 г. был командирован на два года в Европу, где познакомился с новейшими достижениями в области медицины. В Германии стажировался у хирурга Бернгардта Ленгербека и патологоанатома Рудольфа Вирхова, во Франции - у хирурга Августа Нелатона, в Шотландии - у акушера и хирурга Джеймса Симпсона. Вернувшись в Россию, продолжил работать в Одесской городской больнице.
В 1870 г. по рекомендации своего учителя, анатома и хирурга Николая Пирогова возглавил кафедру хирургии Киевского университета (ныне Киевский национальный университет им. Тараса Шевченко) и получил звание профессора.
С 1871 г. руководил кафедрой хирургической патологии Императорской Медико-хирургической академии (ныне Военно-медицинская академия им. С. М. Кирова) в Санкт-Петербурге. Одновременно заведовал хирургическим отделением в клиническом военном госпитале.
В 1880 г. - экстраординарный профессор, в 1882-1893 гг. - ординарный профессор кафедры хирургической факультетской клиники, в 1882-1888 гг. - декан медицинского факультета Московского университета (впоследствии факультет был преобразован в самостоятельный вуз, ныне Первый Московский государственный медицинский университет им. И. М. Сеченова, Сеченовский университет). Был инициатором и организатором строительства университетских клиник на Девичьем поле (ныне клиники Сеченовского университета в Хамовниках), открытых в октябре 1890 г., руководил одной из них - хирургической.
В 1893 г. вернулся в Санкт-Петербург, где возглавил Клинический институт великой княгини Елены Павловны (впоследствии Государственный институт усовершенствования врачей, ныне Северо-Западный государственный медицинский университет, СЗГМУ, им. И. И. Мечникова). Одновременно заведовал в нем хирургическим отделением.
Был членом-учредителем Общества русских врачей (1881), членом Московского хирургического общества, председателем Русского хирургического общества (1883-1894), одним из организаторов Пироговских съездов врачей (первый состоялся в декабре 1885 г.), президентом XII Международного конгресса врачей в Москве (1897), почетным членом Московского университета (1899), учредителем и председателем первого съезда российских хирургов (1900), редактором журналов "Хирургическая летопись", "Летопись русской хирургии".
Николай Склифосовский имел практический опыт военно-полевого хирурга, неоднократно (с согласия российского правительства) получал разрешение иностранных государств на сопровождение их армий в ходе военных кампаний как хирург и консультант. Так, Склифосовский организовывал хирургическую помощь в госпиталях и сам проводил операции во время австро-прусской (1866), франко-прусской (1870-1871), русско-турецкой (1877-1878) войн, боевых действий на Балканах (1876).
Создал клиническую хирургическую школу. До Склифосовского в российской хирургии не было принято проводить операции в условиях стерильности: он одним из первых не только в России, но и в Европе ввел горячую обработку инструментов и медицинского белья. Разработал методики оперативного лечения мозговых грыж, рака языка и челюстей, заболеваний желудка, желчного пузыря, печени, мочевого пузыря и др. Первым стал применять гастростомию. Предложил новый способ соединения длинных трубчатых костей при ложных суставах, который получил название "замок Склифосовского" или "русский замок". Развил принципы военно-полевой хирургии: "сберегательное лечение" огнестрельных ранений, применение гипсовых повязок как средства иммобилизации при ранениях конечностей и др.
Автор более 110 научных трудов по различным разделам хирургии. Среди них "Резекция обеих челюстей" (1873), "Оперативное лечение неподвижности коленного сочленения" (1873-1874), "Сосочковое новообразование яичника (papilloma). Иссечение его" (1876), "Перевозка раненых на войне" (1877), "Идеальная холецистостомия" (1890) и др.
В 1901 г. вышел в отставку по состоянию здоровья. Последние годы жизни провел в своем имении в селе Яковцы Полтавской губернии (ныне пригород Полтавы, Украина).
Николай Склифосовский скончался 13 декабря (30 ноября по старому стилю) 1904 г., похоронен в Яковцах.
Был дважды женат. Первая супруга Елизавета Григорьевна умерла от тифа в возрасте 24 лет. От первого брака родилось трое детей: Ольга, Николай, Константин. От второй супруги Софьи Александровны было четверо детей: Александр, Борис, Владимир и Тамара.