W 1941 ukończył kursy doskonalenia wyższej kadry dowódczej przy Akademii Wojskowej im. Frunzego, od czerwca 1941 brał udział w wojnie z Niemcami jako dowódca 1 Dywizji Zmotoryzowanej w składzie 20 Armii Frontu Zachodniego. W lipcu 1941 organizował działania bojowe dywizji w rejonie Borysowa i brał udział w walkach pod Orszą, później uczestniczył w bitwie pod Smoleńskiem, w której został ranny.
Od sierpnia do grudnia 1941 dowodził 3 Armią Frontu Briańskiego/Frontu Południowo-Zachodniego, brał udział w bitwie pod Moskwą, od grudnia 1941 do lutego 1942 był na kursie Wyższej Akademii Wojskowej im. Woroszyłowa, po czym został zastępcą dowódcy 57 Armii Frontu Południowego, a we wrześniu 1942 dowódcą 1 Armii Rezerwowej przekształconej wkrótce w 2 Gwardyjską Armię. W listopadzie 1942 został zastępcą dowódcy 2GwA Rodiona Malinowskiego, wkrótce został ranny w walkach na południe od Stalingradu, od lutego do lipca 1943 ponownie dowodził 2 Gwardyjską Armią w składzie Frontu Południowego, brał udział w operacji rostowskiej. Od 1 sierpnia 1943 do maja 1945 dowodził 51 Armią, walczył na Froncie Stalingradzkim, Południowym, 4 Ukraińskim, Leningradzkim, 1. i 2 Nadbałtyckim.