Pod koniec 1942 został przeniesiony do Berlina do Głównego Urzędu Rasy i Osadnictwa SS. 24 maja 1943, po kolejnym awansie (do stopnia Hauptsturmführera SS) Mengele (najprawdopodobniej za wstawiennictwem von Verschuera) otrzymał przeniesienie do obozu koncentracyjnego Auschwitz, gdzie miał zastępować jednego z chorych lekarzy.
Auschwitz-Birkenau thumb|Od lewej Richard Baer, Josef Mengele oraz Rudolf Höß (Auschwitz, 1944) thumb|Blok 10, w którym wykonywano eksperymenty medyczne Auschwitz Mengele wyróżniał się spośród lekarzy SS w Auschwitz. Jako jedyny służył na froncie i posiadał wysokie odznaczenia. Na początku objął funkcję lekarza obozu kobiecego w Birkenau. W dwa dni po przybyciu do obozu zadecydował o posłaniu do komór gazowych wszystkich 1042 Romów, w których barakach wybuchła epidemia tyfusu. Zdaniem Mengelego chorych na tyfus nie należało leczyć, lecz eliminować.