Życiorys Rodzina Hauków – van der Haacken, Hauck – powoływała się na pochodzenie flamandzkie. Do Polski przybyła w 1782 przez Moguncję i Drezno. Ojciec Józefa, Józef Hauke (1790–1837), urodzony już w Polsce, był kapitanem w wojsku Księstwa Warszawskiego i potem generałem wojska rosyjskiego, a stryj Maurycy Hauke był generałem napoleońskim, wsławionym obroną Zamościa w 1813 roku. Zginął pierwszego dnia powstania listopadowego jako wierny cesarzowi. Drugi stryj, Ludwik August (1779–1851) był dyrektorem górnictwa w Królestwie Polskim. Józef (ojciec), Maurycy i Ludwik August otrzymali w 1826 w Królestwie Polskim szlachectwo, a później dwaj pierwsi tytuł hrabiowski. Był powinowatym cesarza Aleksandra II; stryjeczna siostra Julia Hauke ks. Battenberg była morganatyczną żoną Aleksandra von Hessen-Darmstadt, brata cesarzowej.
Józef Hauke zaczął edukację w carskim Korpusie kadetów, następnie w Korpusie Paziów i zwieńczył ją ukończeniem Wyższej Akademii Wojskowej. W 1855 został oficerem ordynansowym cesarza Aleksandra II. W 1859 przeniósł się do służby czynnej. Brał udział w walkach na Kaukazie z niedobitkami wojsk Szamila, w których się dosłużył dwóch krzyży (w tym Orderu św. Stanisława II klasy z mieczami) i złotej szabli za waleczność 3 sierpnia 1861.