Po wojnie Carrington rozpoczął karierę polityczną. W 1951 r. został parlamentarnym sekretarzem w ministerstwie rolnictwa, rybołówstwa i żywności. Mając 32 lata był najmłodszym członkiem rządu. W latach 1954–1956 był parlamentarnym sekretarzem w ministerstwie obrony. W 1956 r. został Wysokim Komisarzem w Australii i był nim do 1959 r. Po powrocie do Wielkiej Brytanii został pierwszym lordem Admiralicji. Na tym stanowisku popierał politykę premiera Macmillana modernizacji Royal Navy. W 1962 r. został dodatkowo wiceprzewodniczącym Izby Lordów.
Kiedy premierem został Alec Douglas-Home (październik 1963 r.) Carrington został członkiem gabinetu jako przewodniczący Izby Lordów i minister bez teki. Po wyborczej porażce konserwatystów w 1964 r. Carrington został liderem Opozycji w izbie wyższej. Po powrocie Partii Konserwatywnej do władzy w 1970 r. Carrington objął stanowisko ministra obrony i pozostał na nim do 1974 r. Od 1972 r. był równocześnie przewodniczącym Partii Konserwatywnej. Od stycznia do marca 1974 r. był ministrem energii. W latach 1974–1979 ponownie był liderem Opozycji w Izbie Lordów. W 1979 r. został ministrem spraw zagranicznych w gabinecie Margaret Thatcher. W tym samym roku przewodniczącym konferencji w Lancaster House, która doprowadziła do zakończenia wojny domowej w Rodezji i wyborów w lutym 1980 r.