Родился 3 марта 1823 г. (по старому стилю 19 февраля 1823 г.) в Туле в семье отставного офицера, мелкопоместного дворянина, чиновника Тульской казенной палаты Дмитрия Григорьевича Ушинского. Впоследствии семья переехала в уездный город Новгород-Северский Черниговской губернии (Российская империя, ныне в Черниговской области Украины), куда был переведен отец с назначением на должность уездного судьи.
Константин Ушинский учился в Новгород-Северской гимназии. В 1844 г. окончил юридический факультет Московского императорского университета (ныне Московский государственный университет им. М. В. Ломоносова, МГУ). Посещал лекции юриста Петра Редкина, историка Тимофея Грановского. В июне 1844 г. ученый совет Московского университета присудил ему степень кандидата юриспруденции.
В 1846-1849 гг. был профессором Демидовского юридического лицея в Ярославле. В 1848 г. под его редакцией выходила неофициальная часть газеты "Ярославские губернские ведомости".
В 1850 г. Константин Ушинский переехал в Санкт-Петербург, до 1854 г. служил в канцелярии департамента духовных дел иностранных исповеданий Министерства внутренних дел. Не оставляя службы, также сотрудничал с журналами "Современник", "Библиотека для чтения", "Вестник Русского Географического общества" и др., писал рецензии и литературно-критические обзоры.
С 1854 г. работал старшим учителем русской словесности и юридических предметов, затем инспектором классов в Гатчинском сиротском институте (Санкт-Петербургская губерния, ныне Ленинградская область). Был постоянным автором "Журнала для воспитания".
В 1859 г. Константин Ушинский был приглашен в Смольный институт благородных девиц (Санкт-Петербург) на должность инспектора классов. По его инициативе в учебном заведении было ликвидировано разделение учащихся по принципу происхождения (из дворянского и мещанского сословий), открыт специальный педагогический класс для подготовки воспитательниц, проведены другие преобразования.
Одновременно был главным редактором "Журнала Министерства народного просвещения", занимался научно-издательской деятельностью.
В 1862 г., после конфликта с главой Смольного института Марией Леонтьевой (обвинила Ушинского в вольнодумстве, непочтительном отношении к начальству и т. п.), был отстранен от должности и отправлен за границу для изучения "школьного дела". В ходе долгосрочной заграничной командировки Константин Ушинский посетил ряд учебных заведений в Бельгии, Италии, Германии, Франции, Швейцарии. В основном жил в Швейцарии, окончательно вернулся в Россию в 1867 г.
В последние годы жизни Ушинский занимался переизданием своих книг, писал статьи о школьном образовании.
3 января 1871 г. (22 декабря 1870 г. по старому стилю) Константин Ушинский скончался от воспаления легких на 48-м году жизни в Одессе (Российская империя, ныне Украина), где находился с частной поездкой. Был похоронен в Киеве на территории Выдубицкого мужского монастыря.
Педагогическая теория Константина Ушинского основывалась на идее народности и всесословности воспитания, всеобщей доступности образования. Он выступал за равный доступ к обучению детей обоего пола. Ушинский утвердил в русской дидактике принцип единства обучения и воспитания. Кроме того, Ушинский писал стихи, рассказы для детей и сказки, очерки, литературно-критические статьи, рецензии и обзоры. Был автором ряда художественных переводов.
Среди его книг - "Человек как предмет воспитания", "О пользе педагогической литературы", "Три элемента школы", "О народности в общественном воспитании", "Детский мир и Хрестоматия", "Родное слово", "Руководство к преподаванию по "Родному слову" для учителей и родителей" и др.
В память о педагоге постановлением Совета министров РСФСР от 25 мая 1946 г. была учреждена медаль имени К. Д. Ушинского. В настоящее время она является ведомственной наградой Министерства просвещения РФ, вручается "за заслуги в области педагогических наук". В число именных стипендий МГУ, которые получают студенты-отличники, входит стипендия имени К. Д. Ушинского (была учреждена в 1945 г.).
Памятники Ушинскому установлены у Российского государственного педагогического университета им. А. И. Герцена в Санкт-Петербурге (1961), у Московского педагогического государственного университета (2023). Памятные доски открыты на здании факультета журналистики (бывший Аудиторный корпус) МГУ на Моховой улице (1974), в Тульском государственном педагогическом университете им. Л. Н. Толстого (2023).
Его имя носят Информационный центр "Библиотека имени К. Д. Ушинского" Российской академии образования (Москва), Ярославский государственный педагогический университет им. К. Д. Ушинского, Одесский государственный педагогический институт им. К. Д. Ушинского (Украина), Гатчинская гимназия им. К. Д. Ушинского (Ленинградская обл.) и др. учебные заведения. В честь Ушинского названы улицы в Туле, Ярославле, Санкт-Петербурге, Воронеже, Липецке, Донецке и др. городах.
В 2023 г. 200-летие со дня рождения Константина Ушинского отмечается в Год педагога и наставника, который был объявлен указом президента РФ Владимира Путина "в целях признания особого статуса педагогических работников, в том числе осуществляющих наставническую деятельность". В его рамках в МГУ в ноябре планируется провести международный педагогический конгресс "Наследие К. Д. Ушинского и современное образование". В Москве, Санкт-Петербурге, Тульской и Ярославской областях в мае пройдет акция "Аллея К. Д. Ушинского", организаторами которой выступят педагогические университеты этих регионов. Также запланированы другие мероприятия.