Walentynian powrócił do armii dwa lata później i służył podczas perskiej wyprawy Juliana, a za panowania jego następcy imperatora Jowiana został awansowany. Dziewięć dni po śmierci Jowiana w lutym 364 roku zgromadzenie cywilnych i wojskowych dygnitarzy w Nikei ogłosiło Walentyniana jego następcą. Natychmiast nadał on swemu bratu Walensowi tytuł tribunus stabulorum, a już 28 marca przekazał mu rządy we wschodniej części imperium, którego zachodnią częścią odtąd sam władał. Obaj też objęli (każdy w swej części) w tym samym roku konsulat.
Walentynian usiłował opanować trudności na granicy nadreńskiej. W końcu 364 przyjął wysłanników Alemanów, ale przekazał im mniejszy od oczekiwanego trybut, w związku z czym od 365 rozpoczęły się najazdy łupieżcze nad Renem. Walentynian dowiedział się o tym równocześnie z wiadomością o rebelii Prokopiusza na wschodzie. Do września jego dowódcy w Galii zostali pokonani, jednak już w październiku cesarz przeniósł swą siedzibę do Paryża, skąd energicznie zaczął kierować działaniami przeciw Alemanom. Po umocnieniu granicy zwrócił się o pomoc do Burgundów (wrogów Alemanów), lecz bez powodzenia.