Od grudnia 1945 mieszkał w Polsce, został sekretarzem tzw. Frakcji Żydowskiej PPR, działającej przy Centralnym Komitecie Żydów Polskich, był jednym z liderów tego środowiska i faktycznie główną zaufaną osobą najwyższych władz PPR (następnie PZPR). Równocześnie pracował w Wydziale Organizacyjnym KC PPR (następnie KC PZPR), jako instruktor ds. żydowskich, od 1948 był członkiem Centralnej Komisji Kontroli Partyjnej (pełnił tę funkcję do 1964). Po likwidacji CKŻP w 1950, w latach 1950-1956 pracował w Wydziale Historii Partii przy KC PZPR, od 1956 w Żydowskim Instytucie Historycznym, był członkiem zarządu i rady naukowej ŻIH.
Zarządzeniem prezydenta Bolesława Bieruta z 15 stycznia 1950 został odznaczony Orderem Sztandaru Pracy I klasy za zasługi położone w rewolucyjnym ruchu robotniczym i w pracy nad odbudową Polski Ludowej..
Pochowany na cmentarzu Powązki Wojskowe w Warszawie (kwatera B31-1-10)Wyszukiwarka cmentarna - Warszawskie cmentarze.
Jego brat Abraham Zachariasz (1898–1944) również był działaczem komunistycznym. Szymon Zachariasz poświęcił mu tekst w języku jidysz pt. Abram Zachariasz – jego życie i walka.