Как и все дети семьи Романовых, он получил отличное домашнее образование. Так как его отец, Константин Николаевич, был моряком, то и своего второго сына он готовил к службе на флоте. Занятия с ним проводили по программе Морского училища. В 16-летнем возрасте в звании гардемарина Константин был зачислен на фрегат «Светлана», который в составе русской эскадры совершал двухгодичное плавание. Юный великий князь посетил Америку, Японию, Сингапур, Китай. 19-летний Константин участвовал в битве на Дунае во время Русско-турецкой войны (1877-1878) и при его непосредственном участии был потоплен турецкий корабль. За этот бой великий князь Константин был награжден Георгиевским крестом IV степени. Он был произведен в лейтенанты, назначен вахтенным начальником, совершил несколько дальних походов, но в 1882 году его морская карьера закончилась. В связи со здоровьем он был переведен в гвардию. В 1891 году его назначают командиром лейб-гвардии Преображенского полка, затем он становится президентом Академии наук, далее, уже в чине генерал-адъютанта, он становится Главным начальником Военно-учебных заведений, затем генерал-инспектором этих заведений. Были у него и другие военные должности. Везде он показывал себя с лучшей стороны и оставил после себя добрую помять. Так, при его участии были снаряжены экспедиции на Новую Землю и Шпицберген, в Монголию. Благодаря его содействию было открыто несколько обсерваторий, а Одесскую обсерваторию он вообще построил на свои личные средства. Не пережив смерть сына Олега, великий князь Константин Константинович Романов скончался в возрасте 57 лет от сердечного приступа. Он был последним из Романовых, умершим до революции и погребённым в великокняжеской усыпальнице Петропавловской крепости.