Od koncertów w Odessie i Kijowie wiosną 1874 rozpoczyna swoją karierę pianisty-wirtuoza. Z wielkim sukcesem koncertuje w wielu innych miastach Europy, m.in. w Rzymie, Neapolu, Konstantynopolu, Warszawie, Paryżu i Londynie.
Zarębski był jednym z bardziej oryginalnych kompozytorów polskich 2. połowy XIX wieku. Jego kompozycje na fortepian, poza widocznymi wpływami Liszta, wskazują na rozwój niektórych technik kompozytorskich Chopina, szczególnie w twórczym sposobie wykorzystania motywów ludowych, a cykl fortepianowy Róże i ciernie op. 13 zapowiada fakturę fortepianową impresjonizmu. Największym jednak jego osiągnięciem kompozytorskim jest napisany na krótko przed śmiercią Kwintet fortepianowy g-moll op. 34. Fakt, że Kwintet do roku 1931 pozostawał nieopublikowany, przyczynił się do tego, że utwór ten nie zajął należnego mu miejsca w repertuarze światowej muzyki kameralnej. thumb|Nagrobek Juliusza Zarębskiego na cmentarzu w Żytomierzu Jego mogiła znajduje się na starym polskim cmentarzu w Żytomierzu, blisko odnowionej niedawno kaplicy, po lewej stronie od drogi wiodącej do tejże kaplicy. Podobno jego serce jest zamurowane w Żytomierskiej katedrze katolickiej św. Zofii.