Po wybuchu II wojny światowej kierował Osobistym Sztabem Himmlera i odgrywał ważną rolę w działalności SS. Ułatwił m.in. deportację Żydów do obozu zagłady w Treblince, zapewniając swoją interwencją większą liczbę pociągów, których użyto następnie do wywózki Żydów. Od jesieni 1943 sprawował stanowisko gubernatora wojskowego oraz wyższego dowódcy SS i Policji w północnych Włoszech. Był także przedstawicielem III Rzeszy przy marionetkowym rządzie Benito Mussoliniego. Po wojnie Wolff twierdził, że Adolf Hitler rozkazał mu nawet porwanie papieża Piusa XII (operacja Rabat), lecz on sam, opóźniając akcję, miał doprowadzić do jej zaniechania. W marcu 1945 roku prowadził rozmowy pokojowe ze Stanami Zjednoczonymi, którego przedstawicielem był Allen Dulles, rozmowy te przerwano na skutek sprzeciwu Związku Radzieckiego. W kwietniu 1945 negocjował z aliantami poddanie wojsk niemieckich w północnych Włoszech.
Po zakończeniu wojny sąd denazyfikacyjny skazał Wolffa w 1948 roku na karę 5 lat pozbawienia wolności, później zmniejszoną do 4 lat. Po wyjściu na wolność pracował jako dyrektor agencji reklamowej.