W styczniu 1931 powrócił do Dowództwa Okręgu Korpusu Nr V w Krakowie na stanowisko szefa sztabu. Jesienią 1932 został zastępcą dowódcy 6 pułku piechoty Legionów w Wilnie. W okresie od 13 listopada 1935 do 2 kwietnia 1937 dowodził tym oddziałem. Wiosną 1937 został przeniesiony na stanowisko dowódcy 4 pułku piechoty Legionów w Kielcach. W marcu 1939 został zwolniony z zajmowanego stanowiska i przeniesiony do dyspozycji dowódcy Okręgu Korpusu Nr X z pozostawieniem w garnizonie Kielce i zachowaniem dodatku służbowego. Przed odejściem z pułku, 16 marca, pożegnał żołnierzy wyznaczonych do składu załogi Wojskowej Składnicy Tranzytowej na Westerplatte.
W styczniu 1939 płk Stefan Rowecki wystawił Berlingowi pochlebną opinię służbową, przedstawiając do awansu na pułkownikaStefan Rowecki, Wspomnienia i notatki autobiograficzne (1906–1939), Czytelnik, Warszawa 1988.. Jednakże po upływie dwóch miesięcy zmienił diametralnie swoją pozycję. Z dniem 31 lipca 1939 Zygmunt Berling przeniesiony został w stan spoczynku. Nie do końca są jasne okoliczności odejścia Berlinga z wojska. Jedna z nich wskazuje na daleko posunięte zaniedbania służbowe.