Z nieznanych powodów, 12 lipca 1943 roku Gertler został wezwany do miasta i aresztowany przez Niemców. Został przewieziony do więzienia w Inowrocławiu, skąd po miesiącu trafił przez Wrocław i Katowice do KL Auschwitz. 30 listopada 1943 roku został wywieziony do KL Langensalza, skąd następnie trafił do Buchenwaldu i Flossenbürga. Doczekał wyzwolenia w maju 1945 roku. Na stanowisku szefa Oddziału Specjalnego zastąpił go Marek Kligier.

Zamieszkał w Monachium ze swoją drugą żoną, Sonią Boskis. W 1952 roku urodził im się syn Heinrich. Bezskutecznie starał się o wyjazd do Stanów Zjednoczonych lub Izraela. W 1949 roku przed Sądem Rehabilitacyjnym przy Żydowskim Komitecie Centralnym w Monachium rozpczął się jego proces. W archiwach Jad Waszem oraz zachowały się akta procesowe, w tym zeznania świadków, według których Gertler miał uratować ich lub członków ich rodzin. Proces ostatecznie nie został rozstrzygnięty. W Polsce wystawiono za nim list gończy.

W 1974 roku udzielił obszernego wywiadu Isaiahowi Kupersteinowi, wyparł się wówczas przeszłości agenturalnej.

Angażował się w działalność ziomkostwa Żydów łódzkich w Niemczech.