Przez pierwszą połowę rządów Nerona żył na emeryturze, aż do 61, kiedy to władca Rzymu zlecił mu kierowanie prowincją Hispania Tarraconensis.

Wiosną 68 Galba został poinformowany, że Neron planuje go wyeliminować; dowiedział się także o powstaniu Windeksa w Galii. Początkowo był skłonny pójść za przykładem dowódcy nadreńskich wojsk, ale porażka i śmierć galijskiego zarządcy wznowiły jego wahania. Zapał Galby ożywiła jednak wieść, że poparcia udzielił mu prefekt pretorianów Nimfidiusz Sabinus. Do tego momentu ośmielał się jedynie nazywać się legatem senatu i ludu rzymskiego, ale po samobójstwie Nerona przyjął tytuł cezara i odbył marsz na Rzym.

Po śmierci Nerona Nimfidiusz Sabinus usiłował w Rzymie przejąć władzę przed przyjazdem Galby; nie mógł jednak pozyskać lojalności gwardii pretoriańskiej i został zabity.