W tym czasie Smuts (wcześniej stronnik Rhodesa) dał się poznać jako wielki przeciwnik kolonializmu brytyjskiego i zwolennik burskiego prezydenta Transwalu, Paula Krugera. W 1898, kiedy Kruger zdymisjonował Najwyższego Sędziego Transwalu, Johna Gilberta Kotzégo, Smuts opracował tezy prawne uzasadniające decyzję prezydenta. Otrzymał za to stanowisko prokuratora krajowego Transwalu.
W 1899 Smuts był członkiem burskiej delegacji na konferencję w Bloemfontein, na której odrzucono ultimatum brytyjskiego gubernatora Kolonii Przylądkowej Alfreda Milnera, co doprowadziło do wybuchu II wojny burskiej.
Wojska burskie zaatakowały Kolonię Przylądkową 11 października 1899. W początkowym okresie wojny Smuts odpowiadał w rządzie burskim za propagandę, logistykę oraz komunikację z generałami i dyplomatami. Po wkroczeniu Brytyjczyków do Transwalu nadzorował ewakuację rezerw złota z Pretorii. Następnie dowodził oddziałem partyzanckim. W latach 1901–1902 dowodził rajdem burskim w głąb Kolonii Przylądkowej. W 1902 brał udział w negocjacjach pokojowych kończących wojnę.