Kiedy macedoński król Aleksander Macedoński podbił Persję, Judea z Jerozolimą znalazły się pod kontrolą grecką, przechodząc ostatecznie pod panowanie Ptolemeuszy. W 198 p.n.e. Judeę i Jerozolimę zdobyli Seleucydzi, którzy podjęli próbę hellenizacji Żydów. Doprowadziło to w 167 p.n.e. do wybuchu żydowskiego powstania Machabeuszów i utworzenia w 152 p.n.e. Królestwa Machabeuszy ze stolicą w Jerozolimie.
Wojny żydowsko-rzymskie W 63 p.n.e. Jerozolima została podbita przez rzymskiego wodza Pompejusza, który zaingerował w spór między braćmi, Hyrkanem i ArystobulemTytus Liwiusz, Dzieje Rzymu od założenia Miasta, Perioch księgi CII.. Miasto było długo oblegane, nie zostało jednak zniszczone. Pod panowaniem Rzymu w I wieku p.n.e. do władzy w Judei doszedł król Herod Wielki, który zasłynął z rozbudowy i upiększania Jerozolimy. Rozbudował on Świątynię, wzmacniając dziedziniec kamiennymi bryłami o masie dochodzącej do 100 ton. W mieście wybudowano liczne pałace i wieże. W 6 r. Jerozolima wraz z okolicą przeszła pod bezpośrednie rządy Rzymian, jako prowincja Iudaea.