Родился 15 апреля 1841 г. в Москве. Его отцом был видный русский зодчий, основатель движения историцизма в архитектуре Михаил Доримедонтович Быковский (1801-1885).
В 1865 г. Константин Быковский окончил Императорскую академию художеств (ИАХ, Санкт-Петербург) по классу архитектуры Николая Бенуа, в 1866 г. получил звание классного художника архитектуры II степени.
В 1867 г. начал работать архитектором в Технико-строительном комитете Министерства внутренних дел, однако в том же году вернулся в Москву, где стал одним из членов-учредителей Московского архитектурного общества (МАО), созданного по инициативе Михаила Быковского. Сам Константин Быковский был председателем общества в 1894-1897 и 1904-1905 гг. Благодаря деятельности МАО в России началось систематическое изучение древнерусского зодчества, сложилась научная школа реставрации.
В 1868-1870 гг. Константин Быковский помогал отцу при строительстве по его проекту храма иконы Божией Матери "Знамение" в подмосковном селе Ховрино (ныне Москва, Фестивальная улица, дом 77а).
Первый самостоятельный реализованный проект - трапезная и колокольня церкви Пимена Нового в Новых Воротниках (Москва, Нововоротниковский пер., 3, стр 1., 1870-1873).
В 1870-1881 гг. преподавал в Московском училище живописи, ваяния и зодчества (МУЖВЗ) и в Строгановском училище технического рисования (ныне Московская государственная художественно-промышленная академия им. С. Г. Строганова). Параллельно в 1874-1879 гг. служил участковым архитектором Мясницкой части Московской городской управы.
В 1883 г. Константин Быковский стал главным архитектором Московского университета. Под его руководством в 1887-1890-х гг. в районе Девичьего Поля был построен клинический городок медицинского факультета Московского университета. Сам архитектор спроектировал здания госпитальных хирургических и терапевтических клиник, клиники нервных болезней.
Наиболее продуктивными для Константина Быковского стали 1890-1900-е гг. Тогда под его руководством проектировались и строились новые здания для Московского университета на улицах Моховой и Большой Никитской, в том числе постройки Зоологического музея, физического института и др.
В 1894 г. по проекту Быковского на ул. Неглинной было возведено здание московской конторы Государственного банка (ныне его занимает Банк России).
В 1890-х гг. участвовал в реставрации Успенского собора Московского кремля.
В 1904 г. по его проекту был построен Иоанно-Предтеченский храм в Зарайском кремле.
Константин Быковский скончался 29 октября 1906 г. в Москве на 66-м году жизни. Похоронен на Ваганьковском кладбище.
В 1881 г. Быковский стал академиком ИАХ, в 1892 г. - профессором, а в 1893 г. - действительным членом академии.
В 1893-1902 гг. занимал пост председателя Общества любителей художеств.
Имел чин действительного статского советника (1896).
Был награжден орденами Святого Станислава II степени (1890) и Святой Анны II степени (1906).
Был женат, супруга - Мария Иосафовна (дев. Велямович). У Константина Быковского было четверо детей.