Wraz z Andrzejem, Piotrem i Janem pytał Jezusa o koniec świata, a także dopraszał się o zaszczytne miejsce w Królestwie Niebieskim i nakłaniał Nauczyciela do wygłoszenia mowy eschatologicznej. Towarzyszył Chrystusowi podczas modlitwy w Ogrójcu, jednak nie był świadkiem ukrzyżowania.
Zgodnie z przekazem Dziejów Apostolskich, po Wniebowstąpieniu, był obecny na Wieczerniku, a następnie miał ewangelizować w Judei i Samarii. Zmarł w 43 roku najprawdopodobniej w Jerozolimie, przez ścięcie, z rozkazu Heroda Agryppy.
W źródłach pozabiblijnych Pomimo, że Jakub pełnił ważną rolę wśród dwunastu, to jego postać nie doczekała się rozbudowanej literatury apokryficznej. Największą z nich jest IV/VI-wieczna Legenda maior, z której korzystał Pseudo-Abdiasz. Według niej, po śmierci Zebedeusza, Jakub miał sprzedać rodzinny majątek i kupić za to posiadłość w Jerozolimie, której część wynajął Józefowi Kajfaszowi. Ten sam apokryf wskazuje jakoby przed powołaniem przez Jezusa, był uczniem Jana Chrzciciela. Dodatkowo wspomina walkę Jakuba z Hermogenesem i Filetosem, a także opis śmierci Jakuba, który miał przed śmiercią ucałować swojego kata (wersję tę potwierdza Klemens Aleksandryjski i Euzebiusz z Cezarei).