We wrześniu 1944 został mianowany marszałkiem Związku Radzieckiego. W latach 1947–1956 był głównodowodzącym wojskami Dalekiego Wschodu, następnie Dalekowschodniego Okręgu Wojskowego. Od marca 1956 był I zastępcą ministra obrony ZSRR, od października 1957 aż do śmierci ministrem obrony ZSRR. Był – po Michaile Frunzem – drugim szefem Radzieckich Sił Zbrojnych, który zmarł podczas sprawowania urzędu. Jego prochy spoczęły pod murem kremlowskim na Placu Czerwonym w Moskwie.
Napisał książkę autobiograficzną Sołdaty Rossiji. Zajmował się też redagowaniem publikacji wojskowo-historycznych: Jassko-Kiszyniowskie Kanny, Budapeszt-Wiedeń-Praga i Finał. Pierwsza z nich została wydana w Polsce w 1967 pod tytułem Nowe Kanny.
Awanse gen. mjr 4 czerwca 1940 gen. por. 9 listopada 1941 gen. płk 12 lutego 1943 gen. armii 28 kwietnia 1943 marszałek Związku Radzieckiego 10 września 1944