Do tworzenia oddziałów przystąpiono przed inwazją niemiecką na Związek Radziecki w maju 1941 r. w szkole policyjnej w Pretzsch (Elbe) w Saksonii. Sformowano cztery Einsatzgruppen, oznaczone literami A, B, C i D, które podzielone zostały na Einsatzkommanda i Sonderkommanda. Einsatzgruppen liczyła od 600 do 1000 SS-manów, SD-manów, członków Gestapo, Kripo, policjantów z 9 rezerwowego batalionu policyjnego z Berlina i elitarnej jednostki tajnej policji Leitender Dienst[Universitatis Jagellonica Cracoviensis acta scientiarum litterarumque:Schedae historicae, Uniwersytet Jagielloński. 1987 str. 147].. W literaturze przedmiotu podaje się informację, że dwie trzecie członków kierownictwa Einsatzgruppen miało wyższe wykształcenie prawnicze lub ekonomiczne, a jedna trzecia doktoraty. Jeden z dowódców Einsatzkommando 6 z Einsatzgruppen C, Ernst Biberstein, był pastorem i teologiem, inny z kolei z Sonderkomamando 7a, Einsatzgruppe B, Eugen Steimle, nauczycielem, a osądzony w Norymberdze Otto Ohlendorf, dowódca Einsatzgruppe D, był doktorem prawa, który studiował na trzech uniwersytetach. Oprócz wspomnianego Ohlendorfa tytuł doktora posiadali między innymi Franz Six (filozofia), Otto Rasch (prawo i ekonomia polityczna), Walter Blume (prawo), Martin Sandberger (prawo), Werner Braune (prawo), Eduard Strauch (prawo).