Partia Poalej Syjon została założona w 1906 roku na zjeździe w Połtawie (w ówczesnym zaborze rosyjskim) przez Dow Bera Borochowa. W jej skład wszedł także polski Związek Poalej Syjon, utworzony rok wcześniej. Zachował on wewnątrz organizacji szeroką autonomię. W 1907 roku w Hadze powołano Światową Federację Poalej Syjon. Po kilku latach miała również duże wpływy w miastach zaboru austriackiego. Po odzyskaniu niepodległości przez Polskę w 1918 roku partia została formalnie zalegalizowana. Jednocześnie zaczął się proces zjednoczeniowy poszczególnych organizacji: Poalej Syjon połączyła się z Poalej Syjon Zachodniej Galicji. W 1921 roku natomiast nastąpiło zjednoczenie z organizacją socjalistyczną Poalej Syjon z Galicji Wschodniej.
Rozłam W 1920 roku podczas zjazdu w Wiedniu doszło do rozłamu; oderwała się radykalna, prokomunistyczna mniejszość tworząc odrębną partię pod nazwą Poalej Syjon – Lewica, która nie przystąpiła do Światowej Organizacji Syjonistycznej (jak to było w przypadku Poalej Syjon).