Kilkukrotnie pojawiał się w filmach swojego ojca, razem z matką i siostrą wystąpił w dwóch odcinkach programu kulinarnego Molto Mario.
Zagrał główną rolę w filmie Dosięgnąć kosmosu (1999) o nastolatku z Zachodniej Wirginii, który stara się zdobyć stypendium naukowe, by nie musieć pracować w kopalni. Kolejny film z jego udziałem, Donnie Darko (2001), nie okazał się finansowym sukcesem, zebrał jednak przychylne opinie krytyków, którzy często chwalili rolę Jake’a. Następnie wcielił się w postać Pilota Kelsona w filmie Autostrada (2002), a jego występ w filmie spotkał się z krytyką, m.in. opisywany był jako „głupi i schematyczny”. Większy sukces odniosły jego role w Pięknie i jeszcze piękniej oraz Życiowych rozterkach. W obu filmach grał młodych mężczyzn rozpoczynających romans ze starszymi kobietami. Aktor opisał później kreacje jako role „nastolatka w okresie przejściowym”.
Miał zastąpić Tobeya Maguire’a w roli Spider-Mana w drugiej części cyklu z powodu problemów zdrowotnych aktora, jednak ten zdołał wyzdrowieć, w związku z czym film nakręcono bez Gyllenhaala. Aktor zagrał w filmie Pojutrze (2004), który zarobił ponad czterysta milionów dolarów.