Преподобный Иоанн родился в конце третьего века. Его мать Иулиания рано осталась вдовой и одна воспитывала юного Иоанна и его сестру Фимистию. Иулиания была христианкой, поэтому и детей воспитывала в вере и благочестии.
Когда император Диоклетиан начал преследовать христиан Иулиания вместе с детьми покинула свое селение. Она скрывалась в безлюдных местах, полагаясь на помощь Божию. Иоанн и Фимистия во всем помогали своей матери.
Иоанн нередко уединялся для молитвы. Однажды он повстречал человека, который тоже оказался христианином. Это был подвижник Фармуфий, который уже давно подвизался в тех местах, проводя время в посте и молитве.
Юноша рассказал матери о встрече с отшельником и попросил у нее разрешения стать учеником преподобного Фармуфия. Иулиания отпустила сына.
Пробыв некоторое время с наставником святой Иоанна получил благословение преподобного Фармуфия и еще дальше углубился в пустынные места.
Молодой подвижник нашел заброшенный колодец и устроил рядом с ним келлию. Часто он спускался в этот колодец и подолгу молился. Много лет провел преподобный Иоанн в уединении.
Незадолго до кончины к нему пришел преподобный Хрисихий, который затем и рассказал другим о жизни и подвиге преподобного Иоанна Пустынника.