Choć w rodzinie nie było tradycji wojskowych, Friedrich Guderian wybrał dla syna karierę w armii. W latach 1901–1907, najpierw jako kadet Guderian uczył się w szkołach dla kadetów, najpierw w Karlsruhe, a następnie w Gross-Lichterfelde. Po latach wspominał, że choć warunki nauki były spartańskie, nauczyciele, z którymi zetknął się na tym etapie, traktowali uczniów po ludzku, a poziom nauczania dorównywał szkołom cywilnym. Duży nacisk kładziono na naukę języków obcych, pisząc więc Achtung – Panzer!, Guderian mógł korzystać ze źródeł w językach francuskim i angielskim, zwłaszcza z prac Johna Fullera, który już w latach 20. XX wieku antycypował idee blitzkriegu.
W lutym 1907 Guderiana przydzielono do 10 Hanowerskiego Batalionu Lekkiej Piechoty pod dowództwem jego ojca. Od kwietnia do grudnia 1907 uczęszczał do Szkoły Wojennej w Metzu, po czym w stopniu podporucznika wrócił do batalionu. W 1908 został przydzielony do batalionu strzelców w Goslarze.
Od października 1912 do września 1913 był przydzielony do jednostki telegraficznej. W 1913 wziął ślub z Margarete Goerne, z którą miał dwóch synów: starszego Heinza Günthera i młodszego Kurta. W październiku trafił do Akademii Wojennej w Berlinie, gdzie przebywał do wybuchu I wojny światowej.