16 grudnia 1446 papież Eugeniusz IV mianował Carvajala kardynałem diakonem S. Angelo in Pescheria. Uczestniczył w konklawe 1447. Od marca 1447 do kwietnia 1449 był legatem papieskim w Niemczech, Czechach i na Węgrzech. Podczas pobytu w Wiedniu w 1448 podpisał w imieniu papieża Mikołaja V tzw. konkordat wiedeński z królem niemieckim Fryderykiem III. W 1452 towarzyszył Fryderykowi III podczas jego podróży do Rzymu na koronację cesarską, a rok później był legatem Mikołaja V w księstwie Mediolanu. Uczestniczył w konklawe 1455. Nowy papież Kalikst III wysłał go ponownie jako legata do Austrii i na Węgry. Odegrał znaczną rolę w obronie Belgradu podczas oblężenia przez Turków osmańskich w 1456.

We wrześniu 1461 Juan Carvajal powrócił do Rzymu. Wybrany w 1458 papież Pius II, w nagrodę za jego służbę na Węgrzech, mianował go kardynałem biskupem Porto e S. Rufina (26 października 1461). W 1463 ponownie był legatem na Węgrzech, gdzie mediował między królem Maciejem Korwinem a austriackimi Habsburgami, doprowadzając ich do podpisania traktatu Wiener-Neustadt (24 lipca 1463). Był zwolennikiem planów krucjatowych Piusa II, przerwanych przez śmierć tego papieża w sierpniu 1464. Uczestniczył w konklawe 1464. Nowy papież Paweł II mianował Carvajala członkiem komisji ds. krucjaty (listopad 1464) oraz komisji ds.