jego obecna, barokowa forma architektoniczna pochodzi z XVIII w. Po kasacie klasztoru przez władze pruskie w 1834 w budynkach mieściło się seminarium nauczycielskie, a w okresie międzywojennym szkoła średnia. Od 1952 budynki byłego klasztoru były siedzibą Wydziału Filozoficznego Gorzowskiego Diecezjalnego Seminarium Duchownego, w 1960 przeniesiono tu również pozostałe wydziały seminarium, które obecnie działa pod nazwą Zielonogórsko-Gorzowskiego Wyższego Seminarium Duchownego.
Nazwa festiwalu „Muzyka w Raju” pochodzi od historycznej i również obecnie powszechnie używanej nazwy zespołu klasztoru i kościoła – Paradyż. Cystersi po osiedleniu się w Gościchowie zgodnie ze swoim zwyczajem zmienili nazwę miejscowości na łacińską Paradisus Sanctae Mariae (Raj Matki Bożej)Inne źródła podają Paradisus Matris Dei, por. . Od nazwy tej utworzono zarówno niemiecką (Paradies, wcześniej również Paradeis) jak i polską (Paradyż) nazwę miejscowości. Nazwy „Paradyż” lub „Paradies” były oficjalnymi nazwami klasztoru i miejscowości zarówno w okresie I Rzeczypospolitej (do II rozbioru Polski Paradyż leżał na terenie państwa polskiego, tuż przy granicy z Brandenburgią a później Prusami) jak i w okresie przynależności miejscowości do Prus, a potem do Niemiec.