Родился 1 мая 1938 г. в дер. Березница (Полесское воеводство Польской Республики; ныне на территории Брестской области Белоруссии). В детстве в годы Великой Отечественной войны проживал на территории, оккупированной немецкими войсками. Его отец погиб на фронте в 1943 г.
В 1956 г., получив среднее образование в школе пос. Ружаны (Брестская обл.), Николай Карполь переехал в Нижний Тагил (Свердловская обл.). В 1958 г. в местном профессионально-техническом училище освоил профессию мастера механического и колонкового бурения.
В 1965 г. окончил физико-математический факультет Нижнетагильского государственного педагогического института (НГПИ; ныне Нижнетагильский государственный социально-педагогический институт). После окончания вуза преподавал в вечерней школе и профтехучилище.
В 1959 г. Николай Карполь создал в Нижнем Тагиле мужской волейбольный клуб из учащихся местного педагогического техникума.
В 1960-1969 гг. был тренером женской волейбольной команды свердловского областного отделения добровольного спортивного общества (ДСО) "Трудовые резервы". С 1963 г. также тренировал женскую сборную РСФСР "Трудовые резервы".
С 1969 по 2023 г. - главный тренер женского волейбольного клуба "Уралочка-НТМК" (до 2001 г. - "Уралочка"; Екатеринбург). Возглавив "Уралочку" после ее вылета из высшего дивизиона первенства СССР, через несколько лет вернул команду в высшую лигу и вывел ее на лидирующие позиции. При Николае Карполе клуб стал одним из наиболее успешных женских волейбольных коллективов страны. Он 25 раз приводил команду к победе в чемпионатах Советского Союза и России (1978-1982, 1986-1991; 1992-2005), восемь раз - в Кубке европейских чемпионов (1981-1983, 1987, 1989, 1990; 1994, 1995). Четырежды выигрывал с "Уралочкой" серебряные медали первенств СССР и России (1984, 1985; 2016, 2022), восемь раз - бронзовые (1977, 1983; 2008, 2009, 2012, 2015, 2018, 2019). С советских времен был знаком с будущим первым президентом РФ (в ту пору - первым секретарем Свердловского обкома КПСС), любителем волейбола Борисом Ельциным, который регулярно посещал игры "Уралочки".
В 1990-х гг. Николай Карполь совмещал работу в "Уралочке" с деятельностью тренера-консультанта женского волейбольного клуба "Младость" (Загреб, Югославия, ныне столица Хорватии). Также являлся советником с правами главного тренера в женском волейбольном клубе "Мурсия" из одноименного испанского города.
В 1975-1977 гг. возглавлял женскую сборную РСФСР по волейболу.
В 1978-1982 и 1987-2005 гг. Николай Карполь являлся главным тренером женских сборных СССР и России. Повторно возглавил сборную после шестого места на чемпионате мира 1986 г. и поражения в финале чемпионата Европы 1987 г. Под его руководством отечественные спортсменки два раза выигрывали золотые медали летних Олимпийских игр (1980 - Москва; 1988 - Сеул, Республика Корея), три раза - серебряные (1992, в составе Объединенной команды бывших советских республик - Барселона, Испания; 2000 - Сидней, Австралия; 2004 - Афины, Греция). Николай Карполь приводил их к победам на чемпионатах мира (1990 - Китай) и Европы (1979 - Франция; 1989 - ФРГ; 1991 - Италия; 1993 - Чехия; 1997 - Чехия; 1999 - Италия; 2001 - Болгария).
В середине 1990-х гг. был консультантом женской сборной Хорватии.
В июне - августе 2009 г. занимал пост технического директора женской сборной Белоруссии, в августе 2009 г. - ноябре 2010 г. - ее главного тренера.
Николай Карполь является наиболее титулованным тренером в истории мирового волейбола и самым титулованным тренером России в игровых видах спорта.
Специалист известен своей экспрессивной манерой руководства волейболистками в ходе матчей. По словам Николая Карполя, она обусловлена стремлением поднять "эмоциональный уровень игроков".
Занимает пост вице-президента Всероссийской федерации волейбола (ВФВ).
Заслуженный тренер СССР (1980). Заслуженный работник физической культуры РСФСР (1986).
Герой Труда РФ (2018).
Награжден орденами Дружбы народов (1980), Трудового Красного Знамени (1989), "За заслуги перед Отечеством" III степени (1998), Дружбы (2005). Отмечен благодарностью президента РФ (2008).
Лучший тренер 1988 и 1990 гг. по версии Международной федерации волейбола.
Лауреат специальной награды Европейской конфедерации волейбола "Жизнь, отданная волейболу" (2014).
Член Волейбольного зала славы (Холиок, шт. Массачусетс, США; 2009).
Почетный гражданин Екатеринбурга (1991), Свердловской области (1999) и Нижнего Тагила (2008).
Почетный доктор Уральского федерального университета им. первого президента России Б. Н. Ельцина.
Деятельности специалиста посвящены документальные фильмы Георгия Негашева "Всего-навсего игра..." (1980), Юлии Киселевой "Воспитать чемпиона" (2013) и Владимира Еропова "Учитель математики" (2018).
В 2019 г. рядом со Дворцом игровых видов спорта Екатеринбурга была открыта скульптурная композиция, посвященная Николаю Карполю и волейбольной команде "Уралочка".
С 2021 г. в Екатеринбурге работает спортивная школа "Академия волейбола Николая Карполя".