Родился 11 июля 1951 г. в Ленинграде (ныне Санкт-Петербург).
В 1974 г. окончил приборостроительный факультет Ленинградского кораблестроительного института (ныне Санкт-Петербургский государственный морской технический университет) по специальности "инженер-механик", в 1975 г. – Высшие курсы Комитета государственной безопасности (КГБ) СССР в Минске (Белоруссия). Позднее учился на годичных курсах повышения квалификации при Высшей школе КГБ СССР им. Ф. Э. Дзержинского в Москве (ныне Академия ФСБ России).
Доктор юридических наук.
В школе учился в одном классе с будущим председателем высшего совета партии "Единая Россия" Борисом Грызловым.
После окончания вуза работал инженером на одной из кафедр Ленинградского кораблестроительного института.
С 1974 г. служил в органах государственной безопасности СССР, затем РФ. Работал в контрразведывательных подразделениях управления КГБ СССР по Ленинградской области, занимал должности младшего оперуполномоченного, оперуполномоченного, начальника городского отделения, заместителя начальника районного отдела, начальника службы по борьбе с контрабандой и коррупцией.
Избирался депутатом Совета народных депутатов Петроградского района Ленинграда. Был членом КПСС до августа 1991 г.
В 1990 г. был переведен в Карельскую АССР. В 1992–1994 гг. занимал должность министра безопасности Республики Карелия.
С 1994 г. служил в центральном аппарате Федеральной службы контрразведки РФ (ФСК; с 1995 г. – Федеральной службы безопасности, ФСБ РФ) в Москве. С 1994 по 1998 г. занимал должности начальника организационно-инспекторского управления департамента по организационно-кадровой работе, начальника управления собственной безопасности ФСБ России.
В 1998 г. работал в Администрации президента РФ Бориса Ельцина. С 31 мая по 11 августа 1998 г. - начальник главного контрольного управления президента РФ (сменил на этом посту Владимира Путина). С 11 августа по 5 октября 1998 г. - заместитель руководителя Администрации президента РФ - начальник главного контрольного управления президента РФ (администрацию в это время возглавлял Валентин Юмашев).
В 1998–2008 гг. - в Федеральной службе безопасности РФ. С октября 1998 г. по апрель 1999 г. занимал должность заместителя директора Федеральной службы безопасности РФ - руководителя департамента экономической безопасности. 19 апреля 1999 г. был назначен первым заместителем директора ФСБ Владимира Путина.
С 9 августа по 17 августа 1999 г. временно исполнял обязанности директора ФСБ России.
В период с 17 августа 1999 г. по 12 мая 2008 г. - директор Федеральной службы безопасности РФ (сменил на этом посту Владимира Путина). В 2001–2003 гг. возглавлял Оперативный штаб по управлению контртеррористическими операциями на территории Северо-Кавказского региона, в 2003 г. передал полномочия министру внутренних дел РФ Борису Грызлову.
В 2006-2008 гг. как глава ФСБ возглавлял Национальный антитеррористический комитет, координирующий деятельность федеральных и региональных органов исполнительной власти, органов местного самоуправления по противодействию терроризму.
15 ноября 1998 г. был назначен постоянным членом Совета безопасности РФ.
С 12 мая 2008 г. по 12 мая 2024 г. - секретарь Совета безопасности РФ (был переназначен 22 мая 2012 г. и 22 июня 2018 г.). Сменил на этом посту и. о. секретаря Совбеза Валентина Соболева.
С 3 февраля 2015 г. входит в состав Военно-промышленной комиссии РФ.
Председатель научного совета при Совете безопасности РФ (с 21 января 2011 г.).
Председатель наблюдательного совета Всероссийской федерации волейбола. В 2004–2009 гг. возглавлял федерацию.
Был председателем Совета руководителей органов безопасности и спецслужб государств — участников СНГ (1999–2008), членом Морской коллегии при правительстве РФ (2003–2005), Совета при президенте РФ по развитию физической культуры и спорта, спорта высших достижений, подготовке и проведению XXII зимних Олимпийских игр и XI зимних Паралимпийских игр 2014 года в г. Сочи (2007-2008), Комиссии при президенте РФ по мониторингу достижения целевых показателей социально-экономического развития РФ (2012-2018).
Генерал армии (2001).
Герой России (2000). Награжден орденами "За заслуги перед Отечеством" I (2006), II, III (2009) и IV (2004) степеней; Александра Невского, Мужества, Почета (2011), "За военные заслуги", "За морские заслуги" (2002). Отмечен благодарностью президента РФ (2013), Почетной грамотой правительства РФ (2001).
Имеет иностранные ордена - Богдана Хмельницкого III степени (2001, Украина), Почета (2001, Белоруссия), Боевого Креста I степени (2003, Армения).
Лауреат Государственной премии РФ в области науки и техники, Премии правительства РФ в области науки и техники, Государственной премии РФ им. Маршала Советского Союза Г. К. Жукова 2009 г. ("за разработку учебного пособия Основы специальной подготовки сотрудников органов федеральной службы безопасности, командируемых в зону проведения контртеррористических операций на территории Северного Кавказа, вносящего значительный вклад в укрепление обороноспособности государства").
Почетный гражданин Республики Карелия (2006).
Имеет ордена "Содружество" (2003, Совет Межпарламентской Ассамблеи государств – участников СНГ), Святого благоверного великого князя Дмитрия Донского (2005, Русская православная церковь).
Старший сын – Дмитрий Патрушев (род. 1977), окончил Государственный университет управления (1999), с 2010 г. был председателем правления Российского сельскохозяйственного банка (Россельхозбанк). С 18 мая 2018 г. занимал пост министра сельского хозяйства РФ в первом правительстве Михаила Мишустина. В мае 2024 г. был предложен на пост заместителя председателя правительства РФ, его канидатура будет рассмотрена Госдумой 13 мая.