Wkrótce Weissmannowie zostali zmuszeni do zamieszkania w piwnicy własnego domu, a na przełomie 1941 i 1942 roku przesiedlono ich do wydzielonego we wschodniej części miasta getta otwartego. Po jego likwidacji rodzice Gerdy wysłani zostali do Auschwitz, ją samą zaś skierowano do obozu przejściowego, a stamtąd do Groß-Rosen. Przebywała w czterech jego podobozach: Bolkenhain (Bolków), Märzdorf (Marciszów), Landeshut (Kamienna Góra) oraz Grünberg (Zielona Góra).

29 stycznia 1945 r. wraz z grupą 4000 kobiet wyruszyła w 350-kilometrowy marsz śmierci przez Saksonię i Czechy, w czasie którego większość więźniarek zmarła z głodu, zimna i w wyniku nazistowskiego bestialstwa. Wtedy zginęła najlepsza przyjaciółka Gerdy, Ilse.

Weissmann została uwolniona w maju 1945 r. przez żołnierzy amerykańskich w południowoczeskich VolarachGerda Weissmann Klein’s testimony at „The Death March to Volary” – an exhibition at Jad Waszem website .. Wśród nich był porucznik Kurt Klein, który pochodził z Niemiec i uciekł przed nazizmem do USA, podczas gdy jego rodzice zginęli w Auschwitz. Zakochali się w sobie, we wrześniu 1945 r.