W 1998 roku w Bergen założyli wspólnie duet Röyksopp. Po wydaniu dwóch singli, „” (1999) i „Eple” (2001) podpisali kontrakt z Wall of Sound. W 2001 roku ukazał się ich debiutancki album Melody A.M. W 2005 roku ukazał się The Understanding, a w kolejnych latach w ramach Röyksopp opublikował m.in.: Junior (2009), Senior (2010), The Inevitable End (2014) czy potrójny album Profound Mysteries (2022).
O swoich gustach muzycznych mówił, że jest dosyć eklektyczny: „Nie przeszkadza mi, czy słucham Dolly Parton, King Crimson czy niemieckiego tech house’u – dopóki uważam to za interesujące i znajduję w tym jakąś tożsamość, to sięgam po to”.
Współpraca muzyczna Berge, zwłaszcza z Brundtlandem w ramach duetu Röyksopp, współpracował z różnymi artystami i muzykami. W 2002 roku działał z zespołem nad albumem Melodica z 2002 roku, odpowiadając za jego produkcję, nagranie i miksowanie. Pracował następnie m.in. z Annie nad produkcją albumu z 2004 roku, jako koproducent albumu z 2005 roku czy z nad płytą z 2019 roku jako koproducent czy wykonując partie instrumentalne w piosence „Mysteries Of Love”.