1 sierpnia 1937 Koch został powołany na stanowisko komendanta nowo powstałego obozu koncentracyjnego Buchenwald i jednocześnie awansowany do stopnia SS-Standartenführera. Ilse Koch została SS-Aufseherin (główną nadzorczynią obozu kobiecego, podlegały jej wszystkie esesmanki). W niedługim czasie, swoim sadystycznym i patologicznie okrutnym zachowaniem, uzyskała sobie przydomek „Wiedźma (lub Suka) z Buchenwaldu”. Więźniowie zeznawali po wojnie, iż Ilse Koch rozkazywała wyrabianie rękawiczek i abażurów z ludzkiej skóry (z tego względu nosiła też przydomek „Ilsa-Abażur”), a stół, przy którym Kochowie spożywali obiady udekorowany był specjalnie spreparowanymi ludzkimi czaszkami. Karl Koch pełnił funkcję komendanta obozu do 1941 i jest odpowiedzialny za masowe zabijanie, maltretowanie i głodzenie więźniów oraz wykorzystywanie ich do wykonywania niewolniczej pracy.