Historia Stanowisko Nimrud zasiedlone było już w czasach prehistorycznych, ale o tych najwcześniejszych fazach zasiedlenia wciąż wiadomo jest bardzo niewiele. Na początku III tys. p.n.e. znajdowała się tu już najprawdopodobniej osada, ale jej rozmiary i charakter pozostają nieznane. Na powierzchni stanowiska odnaleziono fragmenty ceramiki należącej do kultury Niniwa 5 (1 połowa III tys. p.n.e.), a w jednym z wykopów odkryto grób skrzynkowy datowany na ok. 1750 r. p.n.e.
Miasto Kalhu założone zostało najprawdopodobniej ok. 1280 r. p.n.e. Teksty z XIII w. p.n.e. wskazują, iż już wówczas odgrywało ono ważną rolę jako jedno z centrów administracyjnych państwa asyryjskiego. O mieście z okresu średnioasyryjskiego nie wiadomo wiele, gdyż archeolodzy prowadzący wykopaliska w Nimrud skupili swą uwagę przede wszystkim na przebadaniu miasta z okresu nowoasyryjskiego.