Wiadomości o jego życiu zachowały się w krótkim Żywocie autorstwa Daniela z Raithu z VI wieku.

Według komentarza Nicefora Kaliksta Ksantopula do Drabiny do raju Jan był synem św. Ksenofonta i bratem Arkadiusza, a urodził się w Konstantynopolu w VI wieku. Informacja ta jest jednak stosunkowo późna i nigdzie indziej niepotwierdzona. W wieku szesnastu lat przybył na górę Synaj w pragnieniu całkowitego poświęcenia się Bogu. Został mnichem i uczniem opata Martyriusza. Po czterech latach, po śmierci Martyriusza, przeniósł się do pieczary u podnóża góry, w miejscowości Tola, odległej o osiem kilometrów od obecnego klasztoru świętej Katarzyny. Oprócz modlitwy zajmował się uprawianiem ogródka, a wieczorami lub nocami pisał. Prowadzone w odosobnieniu życie eremity nie przeszkadzało mu spotykać się z ludźmi szukającymi kierownictwa duchowego oraz odwiedzić kilku klasztorów w pobliżu Aleksandrii. Do tego okresu jego życia odnosi się opowieść o tym, jak dzięki jego modlitwom został uratowany od śmierci jego uczeń Mojżesz.