Pierwsza sesja soboru zakończyła się 8 grudnia 1962 r.. thumb|Jan XXIII wita sportowców na Letnich Igrzyskach Olimpijskich 1960 w Rzymie, 28 sierpnia 1960. Zdaniem historyków żaden wcześniejszy papież nie podjął takich wysiłków na rzecz ekumenizmu jak Jan XXIII. 5 czerwca 1960 r. utworzył Sekretariat Jedności Chrześcijan, mianując jego prefektem kardynała Augustina Bea. 20 grudnia 1960 r. odbył godzinne spotkanie z Geoffreyem Fisherem, arcybiskupem Canterbury. Było to pierwsze od 400 lat, od ekskomuniki Elżbiety I, spotkanie arcybiskupa Canterbury z papieżem. Wymienił także (poprzez wysłanników) pozdrowienia z patriarchą Moskwy Aleksym i patriarchą Konstantynopola Atenagorasem. Za zgodą papieża w 1961 r. obserwatorzy katoliccy wzięli udział w Światowej Radzie Kościołów w Delhi.
Udzielał się także w reformie liturgii: zatwierdził nowy brewiarz i mszał, a także wprowadził do kanonu mszalnego wspomnienie św. Józefa i wyraził zgodę na używanie języków narodowych w Kościołach unickich. W sprawach dogmatycznych jego działanie jest oceniane jako nieco zachowawcze, jak np. gdy przestrzegł przed niebezpiecznymi treściami dzieł Pierre’a Teilharda de Chardin.