I suoi genitori furono felici di avere un secondo figlio dopo nove anni in cui erano nate solo femmine: Nicola I e sua moglie si amavano e amavano i loro figli, cui diedero un'ottima istruzione. Benché la prole imperiale di solito rimanesse sotto la supervisione di governanti e tate fino ai sette anni, già a cinque Costantino era troppo ostinato e difficile da gestire per una domestica, per cui suo padre gli assegnò un insegnante privatoDavid Chavchavadze, The Grand Dukes, 55.: avendo già deciso che il figlio sarebbe diventato l'ammiraglio generale della Marina Imperiale, lo zar scelse Fëdor Litke come aio per il bambino.
Litke, che aveva circumnavigato il globo all'età di vent'anni, era un uomo sfacciato e grasso, portato alle polemiche o alle offesa e passò queste attitudini al suo allievo. Formò il ragazzo nelle scienze navali e gli riempì la testa di racconti di mare, guadagnandosi l'amicizia del giovane per la vitaCharlotte Zaepvat, Romanov Autumn, p. 67. Le lingue furono una parte importante della formazione di Konstantin: imparò il russo, l'inglese, il tedesco ed il franceseChavchavadze, 56.. Mentre cresceva le sue lezioni diventavano più lunghe e complesse, comprendendo la matematica, la scienza, la statistica e la gestione del governo. Ci furono anche brevi lezioni ed esercitazioni militari. Konstantin inoltre amò la musica, imparando a suonare il piano ed il violoncello, il disegno e ebbe molta attitudine alle arti. Fu anche un lettore entusiasta ed il suo amore per Omero lo spinse a tradurre l'Odissea in tedesco.
Nel 1835 accompagnò i suoi genitori in Germania e dall'età di otto anni in poi fu educato a tenere un diario: nello stesso periodo gli fu affidato un piccolo yacht, con cui avrebbe navigato fra Peterhof e Kronstadt, passando i suoi giorni in mare e tornando a casa di notte. Nel 1836, accompagnato da Litke, fu imbarcato su una lunga crociera navale ed infine ebbe il comando della fregata russa Ercole, sotto la direzione di Litke. Durante l'addestramento fu trattato come tutti gli altri cadetti navali, nonostante il suo titolo di granduca lo dispensasse da questo. Fu messo a sentinella a mezzanotte sia con la pioggia che con le tempesteChavchavadze, 57.. All'età di sedici anni, Konstantin fu promosso al rango di capitano e servì come comandante della fregata Ulisse, visitando i vari porti lungo il golfo di Finlandia ed arrivando in seguito fino al Mediterraneo.
L'incoraggiamento ed il consiglio di sua zia, la granduchessa Elena Pavlovna ebbero una notevole sulla formazione del giovane. Elena lo prese sotto la sua ala, instillandogli il suo gusto per la letteratura e la musica e facendogli conoscere le ultime idee scientifiche. Ben nota per le sue idee liberali, ebbe una grande influenza nelle visioni politiche del nipote. Nell'ambito dell'influenza di Litke, Konstantin cominciò a ricoprire incarichi ufficiali, assumendo il patronato della nuova Imperial Società geografica russa, che dipendeva dal Ministero degli Affari Interni in cui lavorava un numero cospicuo di burocrati liberali, tra cui Nikolaj Miljutin.
Matrimonio I membri maschi della famiglia Romanov erano famosi per il loro bell'aspetto e la loro altezza, ma Costantino era piuttosto basso e brutto. Venne descritto da un osservatore: " La sua carnagione era giallastra, il colore dei suoi capelli era piuttosto neutro ed assomigliava alla sabbia della spiaggia. I suoi occhi erano grigi, sognanti e semichiusi e un naso enorme che pareva tagliato nel legno enorme aveva preso il posto del profilo greco di suo padre"King, Greg & Wilson, Penny, Gilded Prism, 10.. Aveva una voce cavernosa, una personalità predominante e modi bruschi. Con un temperamento spiccio, Konstantin era un uomo difficile e spesso sgradevole.
Nel 1846 sua sorella Olga aveva sposato il principe ereditario di Württemberg Carlo: la seguì nel viaggio a Stoccarda e proseguì per Altenburg, dove conobbe la principessa Alessandra di Sassonia-Altenburg: l'incontro era stato organizzato dai genitori della ragazza, che pensavano ella avrebbe fatto una buona impressione sul giovane granduca. Alessandra era infatti bella in maniera sconvolgente, alta e magra e Konstantin desiderò immediatamente sposarla. "Non so che cosa sta accadendo in me. È come se fossi una persona completamente nuova. Solo un pensiero mi muove, solo un'immagine riempie i miei occhi: per sempre e soltanto lei, il mio angelo, il mio universo. Realmente penso di essere innamorato. Tuttavia, che cosa può significare? Io l'ho conosciuta solo da poche ore e sono già pronto fino alle orecchie nella passione."King and Wilson, 12
Konstantin aveva diciannove anni ed Alessandra sedici: una volta fidanzati dovettero aspettare due anni per sposarsi. Il 12 ottobre 1847 lei arrivò in Russia, in febbraio si convertì all'ortodossia, diventando la granduchessa Aleksandra Iosifovna: si sposarono sei mesi dopo, l'11 settembre 1848 nel San Pietroburgo. Entrambi amavano la musica, lei suonava il violoncello ed il piano e sembravano essere una buona coppia, che vivevano felicemente il loro matrimonio. Vissero in alcuni dei palazzi più lussuosi dell'impero: Pavlovsk, Strelna ed il Palazzo di Marmo; questi ultimi due furono il regalo di nozze dei suoi genitori con Strelna. Un anno dopo le nozze Konstantin ereditò Pavlovsk dallo zio il granduca Michail Pavlovič e, alla morte della madre, il palazzo di Orianda in Crimea.
Konstantin e sua moglie la granduchessa Aleksandra Iosifovna ebbero sei figli:
Nikolaj Konstantinovič (1850-1918), esiliato in Asia Centrale, ebbe dei figli illegittimi. Ol'ga Konstantinovna Romanova (1851-1926), regina dei Greci. Vera Konstantinovna (1854-1912), duchessa del Wurtenburg Konstantin Konstantinovič (1858-1915), poeta ed intellettuale, ebbe eredi Dmitrij Konstantinovič (1860-1919), militare di carriera, scapolo Vjačeslav Konstantinovič (1862-1879), morto di infiammazione cerebrale.
Prime esperienza militari Nel 1849 come giovane ufficiale, Costantino prese parte alla campagna militare in aiuto dell'Impero d'Austria per schiacciare una rivolta in Ungheria: fu la prima volta che prese parte ad un vero conflitto militare. Partecipò a tre attacchi pericolosi, spingendosi fin nei pressi del fuoco nemico e per il suo valore fu insignito della Croce di san Giorgio. L'anno dopo Konstantin divenne membro del Consiglio di Stato.
Nel 1853 suo padre Nicola I lo creò ammiraglio generale della Flotta Imperiale e lo pose a capo del Ministero della Marina Imperiale: in questa posizione ebbe l'incarico di riformare la marina russa, che era rimasta sostanzialmente immutata dai tempi di Pietro il Grande, ma gli toccò non solo di guidare una flotta arcaica, ma anche di vederla imboccare il disastro che fu per essa la Guerra di Crimea. Durante il conflitto poi suo padre morì e Konstantin raccomandò a suo fratello di negoziare la pace per una guerra già persaChavchavadze, 59.. All'inizio del 1856 accompagnò suo fratello Alessandro II in Crimea per osservare in prima persona le devastazioni della guerra. Queste iniziali esperienze militari crearono nel giovane granduca un'avversione alla vita militare ed un senso di futilità per la guerra. Da quel momento in poi divenne un uomo di pace, malgrado il suo vivo interesse per la marina, e politicamente un progressista. Iniziò una fitta relazione di lavoro tra i due fratelli, che divennero responsabili di molte riforme. Konstantin fu anche inviato per una missione diplomatica presso Napoleone III.
Riforma navale I programmi per la riforma della Marina Imperiale attirarono l'attenzione di Konstantin all'inizio del regno di suo fratello. Visitò l'Inghilterra e la Francia nel 1857 per studiare le navi moderne: sapendo che la Russia aveva una potenza militare inferiore, egli si impegnò per iniziare un'opera di modernizzazione, facendo in modo che le vecchie fregate di legno armate di cannoni venissero sostituite con nuove imbarcazioni in ferro ed acciaio armate con moderna artiglieria francese od inglese. All'inizio del 1857 supervisionò un programma globale che completamente trasformò la Marina Imperiale e la trasformò in una delle prime in Europa. Grazie ai suoi programmi, la flotta baltica ebbe 18 navi da guerra, dodici fregate e 100 cannoniere, mentre la flotta del Pacifico si rafforzò con dodici nuove navi corazzate, nove navi da trasporto e quattro fregate. Soltanto la flotta del Mar Nero rimase era in gran parte trascurata, in conseguenza delle limitazioni stabilite dopo la guerra di Crimea. Tuttavia vi si aggiunsero diciannove nuovi vascelli, il massimo permesso all'Impero.
Lo spirito della riforma di Konstantin si dovette confrontare con una elefantiaca burocrazia che ostruiva ogni innovazione. "Voglio lupi di mare e marinai, non una massa di impiegati" disseKing and Wilson, 32. Era energico e risoluto. Tanto più formava la propria riforma della marina, tanto più venne coinvolto nella riforma delle accademie navali e militari, ed in un'indagine completa sulla corruzione nell'esercito e nella revisione delle leggi sulla censura. Brusco, di modi spicci ed assolutamente sprezzante di chiunque gli si opponesse, poteva affrontare i problemi che scoraggiavano il suo fratello maggior ben più sensibile.
Come capita sempre con i riformatori, Konstantin venne sia elogiato che disprezzato. Un critico disse che era il più intelligente ed abile tra i fratelli di Alessandro II ma aggiunse che si concentrava troppo su sé stesso per interessarsi del benessere degli altri. Tuttavia il lavoro del granduca ebbe una durevole influenza sulla flotta, che sotto la sua guida fu ricostruita, rinforzata e resa moderna, abbandonando del tutto le vecchie fregate lignee dei tempi di suo padre. Lasciò alla Russia la terza marina militare del mondo, una forza navale conosciuta per la sua resistenza e temuta per la sua disciplina.
Emancipazione dei servi La riforma più importante di tutte fu l'emancipazione dei servi della gleba, una politica che fu sgradita a gran parte della nobiltà russa. Quando il comitato nominato appositamente puntò i piedi e mise su delle difficoltà, Alessandro II chiese a Konstantin nel settembre 1857 di entrare a farne parte: dove lo zar era incerto di sé, il fratello minore era più tenace, di temperamento rapido e del tutto disinteressato a ciò che gli altri avrebbero potuto pensare di lui. Nel 1858 un comitato per l'emancipazione, che comprendeva soltanto i membri più progressivi, Konstantin, Lanskoy, Yakov Rostovtsev, Nikolay Milyutin ed i loro alleati, sostituì quello originale. Nonostante questo, i progressi furono ancora lenti, specialmente perché parecchi membri avevano a che dire dei modi bruschi del granducaJohn Van der Kiste, The Romanovs, 1818-1959, 27..
Gli irriducibili nel comitato sapevano bene come discutere con Konstantin, ma continuarono ad usare ogni mezzo possibile per provocarlo, creando così dei freni alla riforma. Egli si trovò ad affrontare un comitato profondamente diviso fra i riformatori che puntavano ad attuare subito il decreto di riforma dell'imperatore e i conservatori che con veemenza si opponevano all'emancipazione dei servi. Konstantin fu particolarmente sdegnato da numerose proteste aristocratiche contro il suo programma, commentando una volta che gli oppositori non erano neppure degni che lui ci sputasse sopraKing and Wilson, 33.. In parecchie occasioni il granduca riuscì a malapena ad evitare al comitato la disintegrazione per le tensioni. Le difficoltà ed il peso di tutto questo ricadeva su Konstantin, che oltretutto veniva insultato con pettegolezzi malevoli ed offensivi dai suoi nemici, che di lui dicevano essere un "matto, il risultato di troppa masturbazione"King and Wilson, 34.