Po opuszczeniu wojska w 1815 wrócił do Wiednia.

9 grudnia 1816 Veit został przyjęty do Nazareńczyków – stowarzyszenia malarzy, głównie pochodzenia niemieckiego, znajdującego się w Rzymie.

thumb|Tryptyk Philippa Veita (1834–1836) W 1821 ożenił się z Karoliną Pulini (1806–1890). Córką rzeźbiarza – Gioacchino Pulini i Benedetty, z domu Gürtler. Para miała pięcioro dzieci: Marię Dorotheę Aloisię (1822–1897); Marię Theresę (1824–1870); Marię Franziskę (1824–1912); Marię Benedictę (1828–1838) i Friedricha Anastasię Marię (1830–1878). W 1830 przeprowadził się ze swoją rodziną do Frankfurtu i pracował jako dyrektor Städel Museum i malarz: między innymi namalował tryptyk „Wprowadzenie sztuki przez chrześcijaństwo w Niemczech”, który przetrwał II wojnę światową.

Veit malował obywateli Frankfurtu, portrety ludzi z wyższych klas społecznych. W 1843 zrezygnował ze stanowiska dyrektora i przeniósł się do pracowni artystycznej w Sachsenhausen. Zabrał ze sobą wielu swoich studentów. Nawet po rezygnacji ze stanowiska dyrektora nadal pracował jako malarz we Frankfurcie. Namalował portrety Karola Wielkiego, Ottona IV i Fryderyka II Hohenstaufa, które dzisiaj znajdują się w sali cesarskiej, w Römer.