Родился 18 сентября 1932 г. в гор. Томске в семье железнодорожников. Воспитывался отчимом. В детстве вместе с семьей неоднократно переезжал: жил в Узбекистане, Монголии. Среднюю школу окончил в Москве.
В 1951 г. поступил на факультет электронных вычислительных устройств и средств автоматики Московского механического института (ныне Национальный исследовательский ядерный университет "МИФИ"). Окончил вуз в 1957 г. по специальности "Диэлектрики и полупроводники" (квалификация - инженер-физик).
Кандидат технических наук (1980, диссертацию защитил в МИФИ).
С июля 1957 г. работал инженером в оборонном ЦНИИ-58 в подмосковном гор. Калининграде (ныне Королёв). Занимался вводом в эксплуатацию ЭВМ "Урал".
С сентября 1959 г., после объединения ЦНИИ-58 с Опытным конструкторским бюро №1 (ОКБ-1) Сергея Королева, стал работать в ОКБ-1 (впоследствии Центральное конструкторское бюро экспериментального машиностроения, ЦКБЭМ, затем НПО "Энергия", ныне Ракетно-космическая корпорация "Энергия" им. С. П. Королева). Участвовал в разработке систем автоматического управления и аппаратуры межпланетных станций (объектов "1М" и "1ВА"). С октября 1960 г. был старшим инженером и руководителем группы по разработке систем управления объектами "2MB" и "ЗМВ".
С августа 1966 г. в качестве начальника группы ЦКБЭМ занимался разработкой приборов ручного управления бортовыми системами лунного облетного корабля "Л1".
1 февраля 1967 г. Николай Рукавишников был назначен испытателем 731-го отдела (отряда космонавтов) ЦКБЭМ, а 27 мая 1968 г. - космонавтом-испытателем этого отдела.
В 1967-1970 гг. в составе группы космонавтов проходил подготовку по программе облета Луны и посадки на ее поверхность (советская пилотируемая лунная программа не была реализована).
Свой первый полет в космос Николай Рукавишников совершил 23-25 апреля 1971 г. в качестве инженера-испытателя космического корабля "Союз-10" вместе с Владимиром Шаталовым (командир) и Алексеем Елисеевым (бортинженер). Программой полета было предусмотрено выполнение первой в мире стыковки космического корабля с орбитальной станцией - "Салютом-1". Управляемый Шаталовым "Союз-10" причалил к станции, но экипаж не смог перейти на ее борт: из-за поломки стыковочного узла корабля не удалось выполнить полное стягивание и обеспечить герметичность стыка. В результате полет был досрочно прекращен. Космонавты вернулись на Землю, совершив облет "Салюта-1" и проведя фотографирование станции.
С июня 1971 г. работал инструктором-космонавтом-испытателем III класса. Одновременно с сентября 1971 г. был заместителем начальника отдела ЦКБЭМ.
2-8 декабря 1974 г. Николай Рукавишников был бортинженером корабля "Союз-16" (командир экипажа - Анатолий Филипченко). В ходе полета космонавты испытывали новую модификацию "Союза" (7К-ТМ) в пилотируемом режиме в рамках советско-американской программы ЭПАС ("Экспериментальный полет "Аполлон" - "Союз").
Третий полет в космос состоялся 10-12 апреля 1979 г. в качестве командира корабля "Союз-33" вместе с первым космонавтом Болгарии Георгием Ивановым по программе "Интеркосмос". Экипажу предстояло работать станции "Салют-6" в рамках 5-й экспедиции посещения, но стыковка была отменена из-за выхода из строя основного двигателя корабля. В результате Николай Рукавишников, управляя вручную "Союзом-33", запустил резервный двигатель корабля и выполнил аварийную посадку в сибирской тайге (спуск проходил по баллистической траектории). Подобное было сделано им впервые в мире.
Николай Рукавишников имел квалификацию космонавта I класса (1979). В общей сложности за три полета он провел в космосе 9 суток 21 час 10 минут.
С августа 1982 г. он занимал должность начальника 194-го отдела НПО "Энергия", с января 1986 г. - заместителя руководителя 19-го комплекса предприятия. Одновременно являлся инструктором-космонавтом-испытателем I класса.
7 июля 1987 г. выбыл из отряда космонавтов. При этом остался работать в НПО "Энергия" в должности заместителя руководителя 19-го комплекса.
В ноябре 1999 г. вышел на пенсию.
Николай Рукавишников являлся председателем Федерации космонавтики СССР (1981-1991), президентом (1991-1999) и почетным президентом (1999-2002) Федерации космонавтики России.
Занимался популяризацией космонавтики среди молодежи, читал лекции в Институте повышения квалификации Министерства общего машиностроения СССР и по линии общества "Знание", вел на радио программу "На космических орбитах".
Николай Рукавишников скончался 19 октября 2002 г. в Москве. Похоронен на Останкинском кладбище столицы.
Дважды Герой Советского Союза (1971, 1974). Был награжден тремя орденами Ленина (1971, 1974, 1979), отмечен благодарностью президента РФ (1996).
Имел иностранные звания и награды: Герой Монгольской Народной Республики (1972), орден Сухэ-Батора (Монголия, 1972), Герой Народной Республики Болгария (1979), орден Георгия Димитрова (Болгария, 1979).
Летчик-космонавт СССР (1971). В числе наград космонавта была золотая медаль им. К. Э. Циолковского (АН СССР, 1971).
Был удостоен звания почетного гражданина Калуги (1971), Томска (1971), Байконура (Казахстан, 1977) и др. городов.
В Томске установлен бюст космонавту (1978). В Москве на доме по улице Хованской (Останкино), где в последние годы жил космонавт, была открыта мемориальная доска (2021). Имя Николая Рукавишникова носят улица и лицей №8 в Томске.