W maju 1945 69-letni Adenauer został wyznaczony przez amerykański rząd wojskowy na stanowisko burmistrza Kolonii. Znajdował się na amerykańskiej, tzw. Białej Liście (dla całych Niemiec) na pierwszym miejscu. Po przejęciu Kolonii przez brytyjskie władze okupacyjne został jednak zwolniony 6 października 1945 z urzędu burmistrza. 2 września został założycielem i członkiem zarządu Partii Chrześcijańsko-Demokratycznej (CDP) w Nadrenii. Partia została założona przez byłych działaczy Partii Centrum.
Po odsunięciu od władzy Adenauer poświęcił się tworzeniu nowej partii politycznej – Unii Chrześcijańsko-Demokratycznej – która w jego zamierzeniu miała skupiać protestantów i katolików. Zdaniem Adenauera partia zrzeszająca wyłącznie katolików doprowadziłaby do sytuacji, w której na niemieckiej scenie politycznej ponownie dominowałyby ugrupowania antydemokratyczne/ W styczniu 1946 roku Adenauer zainicjował polityczne spotkanie przyszłej partii w strefie brytyjskiej w roli doyena i został nieformalnie naznaczony jako jej przywódca.
Adenauer uważał, że Prusy są podstawową przyczyną nacjonalizmu i tylko poprzez wypędzenie pruskiego socjalizmu Niemcy mogą stać się demokracją.