Po powrocie do Niemiec w roku 1900 pracował na lądzie do czasu objęcia funkcji drugiego oficera artylerii na pancerniku „Kaiser Wilhelm II”. Jego kariera nabrała tempa, kiedy został przydzielony do sztabu księcia admirała Heinricha von Preussen, gdzie wysoko oceniano jego pracę. W 1908 awansowano go do stopnia komandora podporucznika. Od 1909 pracował w berlińskim Urzędzie Marynarki Rzeszy, gdzie jego talenty dostrzegł wielki admirał Alfred von Tirpitz.

Służba na SMS Emden W maju 1913 Karl von Müller został mianowany dowódcą krążownika SMS „Emden”. Lekki krążownik „Emden”, o wyporności 3592 tonZa: Janusz Piekałkiewicz, Kalendarium wydarzeń I wojny światowej, Agencja Wydawnicza Jerzy Mostowski, 2009, s. 138. i długości 118 m, został wybudowany w Cesarskiej Stoczni w Gdańsku. Zwodowano go w roku 1908, a do służby wszedł w 1909. Jego uzbrojenie stanowiło 10 dział kalibru 105 mm. Załoga tego okrętu liczyła przeciętnie 361 osób. Mógł on rozwinąć prędkość 24 węzłów.

SMS „Emden” wchodził w skład Niemieckiej Eskadry Dalekiego Wschodu, dowodzonej przez wiceadmirała Maximiliana von Spee.