W jego trakcie został wybrany na sekretarza generalnego organizacji. Rok później zamieszkał w Wiedniu, gdzie przebywał do 1914 roku. W jego mieszkaniu miało swoją siedzibę Biuro Światowego Żydowskiego Socjalistycznego Związku Robotniczego Poalej Syjon. W tym okresie zakończył prace nad swoją książką pt. Żydowski ruch robotniczy w liczbach (1895–1904) (została ona wydana pośmiertnie dopiero w 1918).

Wraz z wybuchem I wojny światowej w Europie, Borochow został zmuszony wyemigrować wraz z rodziną z Monarchii Austro-Węgierskiej (pochodzili z Rosji, która była wrogiem Austrii w tej wojnie). W listopadzie 1914 roku wyjechali do Stanów Zjednoczonych. Tam w krótkim czasie Borochow stał się jednym z przywódców amerykańskiej filii organizacji Poalej Syjon, działając także jako publicysta i społecznik. Przyczynił się do powstania codziennej gazety w jidysz Di Warheit, a w 1916 roku opublikował książkę Ruch ekonomiczny narodu żydowskiego (w języku jidysz). Książka ta pokazała jego głębokie przywiązanie do żydowskiej kultury. W sierpniu 1917 roku Komitet Centralny rosyjskiego Poalej Syjon wezwał Borochowa do powrotu do Rosji. Zastosował się on do tego wezwania, po drodze jednak zatrzymując się w Sztokholmie.