Pierwsze wzmianki o kościele pochodzą z VI i VIII wieku n.e. Na tym miejscu znajdowało się wzniesione w czasach karolińskich memorium z kryptą, w której umieszczono szczątki św. Seweryna. Kult patrona stał się asumptem do wzniesienia ok. 900 roku romańskiej bazyliki. Podczas jej budowy zachowano dawną kryptę. Wiadomo, że za panowania arcybiskupa Brunona (953–965) kościół otrzymał bogaty wystrój. Za czasów panowania dynastii salickiej, w 1043 roku dawną kryptę przebudowano na kształt trójnawowej hali. Powyżej wzniesiono trójnawową bazylikę z nawą poprzeczną i krótkim prostokątnym prezbiterium oraz masywem zachodnim. Za czasów arcybiskupa Hermana III (1089–1099) relikwie św. Seweryna złożono w ozdobnym relikwiarzu, który był fundacją kolońskiego hierarchy.