Niemal wszyscy Niemcy bałtyccy, zmarli w latach 1790-1944, zostali tu pochowani. W roku 1939 na cmentarzu były tysiące grobów obywateli Tallinna, również tych znamienitych. Po zawarciu niemiecko-radzieckiego paktu o nieagresji (Pakt Ribbentrop-Mołotow), w którym ustalono, że kraje bałtyckie (Estonia, Łotwa) i Finlandia staną się strefą wpływów i przyszłym terytorium ZSRR, z końcem 1939 r. wielu Niemców bałtyckich otrzymało zaproszenie z nazistowskich Niemiec do opuszczenia ojczyzny i osiedlenia się w Kraju Warty, skąd przymusowo wysiedlono Polaków. Jednak, na dużo mniejszą skalę w dalszym ciągu wykorzystywano cmentarz do pochówków pozostałych jeszcze w Estonii Niemców do 1944 r.
Nekropolia służyła bałtyckim Niemcom przez ponad 150 lat, aż do momentu ponownej okupacji Estonii przez Związek Radziecki w 1944 roku. W wyniku działań mających na celu wymazanie niemieckiej przeszłości miasta z pamięci tallińczyków zdecydowano o założeniu parku miejskiego na terenie cmentarza (przez kilkanaście lat teren należał do armii radzieckiej).