Родился 31 октября 1956 г. в Москве в семье врачей.
В 1980 г. окончил 1-й Московский медицинский институт (ныне Первый Московский государственный медицинский университет им. И. М. Сеченова) по специальности "лечебное дело", в 1983 г. - Высшие курсы Комитета государственной безопасности СССР в Минске.
Кандидат юридических наук. В 2004 г. в Институте международного права и экономики им. А. С. Грибоедова (Москва) защитил диссертацию на тему "Уголовная ответственность за разглашение сведений о мерах безопасности, применяемых в отношении судьи и участников уголовного процесса".
С 1980 г. работал младшим научным сотрудником в НИИ судебной медицины. Одновременно проходил стажировку в качестве судмедэксперта в дежурно-оперативной бригаде Московского уголовного розыска.
После окончания Высших курсов КГБ служил в 5-м управлении КГБ СССР (борьба с т. н. идеологическими диверсиями).
С 1992 г. работал в управлении собственной безопасности Министерства безопасности РФ (с 1995 г. - ФСБ России).
В 2000-2001 гг. - первый заместитель начальника управления собственной безопасности Федеральной службы безопасности РФ.
В мае 2001 г. перешел на работу в Министерство внутренних дел РФ на должность начальника главного управления собственной безопасности ведомства (с февраля 2005 г. - департамент собственной безопасности).
С 20 июля 2005 г. по 9 августа 2016 г. - директор Федеральной миграционной службы РФ (ФМС России; до мая 2012 г. была подведомственна МВД РФ, затем подчинялась напрямую правительству РФ). 15 января 2013 г. должность руководителя ФМС была приравнена по статусу к должности федерального министра.
5 апреля 2016 г. указом президента РФ Владимира Путина ФМС России была упразднена, а ее функции переданы МВД. Константин Ромодановский был освобожден от должности главы ФМС распоряжением правительства от 9 августа 2016 г.
С 14 июня 2017 г. был помощником полномочного представителя президента РФ в Центральном федеральном округе Александра Беглова.
После ухода с госслужбы в 2019 г. Константин Ромодановский возглавил совет директоров страховой компании "Макс".
18 октября 2024 г. Константин Ромодановский умер в Москве в возрасте 67 лет.
Был председателем координационного совета руководителей компетентных органов государств - членов Организации Договора о коллективной безопасности по вопросам борьбы с незаконной миграцией (2008-2016), председателем Совета руководителей миграционных органов государств – участников Содружества Независимых Государств (с 2008 г.).
Генерал-полковник милиции (2007).
Действительный государственный советник РФ I класса (2014).
Константин Ромодановский был награжден орденами Мужества, Почета, Александра Невского, "За заслуги перед Отечеством" III и IV степеней, медалью ордена "За заслуги перед Отечеством" II степени.
Женат, имеет троих сыновей.
Активно увлекается спортом, играет в хоккей.