Szefem OKW i jednocześnie tytularnym ministrem III Rzeszy został mianowany bardzo oddany i podporządkowany Hitlerowi generaloberst Wilhelm Keitel. Większą część rzeczywistej pracy wykonywał Alfred Jodl, który był człowiekiem bardziej aktywnym, lecz nie skłaniał się ku prowadzeniu dalszych sporów z Hitlerem po wielkiej kłótni, do jakiej doszło między nimi w czasie kampanii stalingradzkiej.
Struktura Do 1940 na OKW składały się: Zarząd Dowodzenia Wehrmachtu (niem. Wehrmachtführungsamt) w skrócie (WFA) – koordynacja działań rodzajów sił zbrojnych i operacji. Wydział Zagraniczno-Obronny Kraju (niem. Abteilung Landesverteidigungsführungsamt) w skrócie (WFA/L) – szczegółowe planowanie operacyjne i rozkazy dla wojsk sojuszniczych Rzeszy. Zarząd Gospodarki i Uzbrojenia (niem. Wirtschafts- und Rüstungsamt) – logistyka. Zarząd Spraw Ogólnych Wehrmachtu (niem. Amtsgruppe Allgemeine Wehrmachtangelegenheiten) – inne zadania.
Od 1940 dodatkowo utworzono: Zarząd Wywiadu i Kontrwywiadu (niem.