Sus padres, Eutropio, senador y general del ejército, y Teodora, personaje de la más alta aristocracia bizantina, habían orientado a sus dos primeros hijos en puestos honoríficos. No consiguieron, sin embargo, lo mismo con Juan, tercero y último hijo, precocísimo de ingenio y extraordinariamente volcado a la piedad. De hecho, desde que tuvo doce años y hasta el fin de los estudios de retórica, tuvo contacto en la escuela con un monje acemeta1 venido de Jerusalén; cuando éste regresaba a los santos lugares, huyó con él al gran monasterio de los acemetas, que se encontraba en ese momento en la orilla asiática del Bósforo, en la localidad llamada Ireneo, que había sido fundada, hacia el 420, por el hegoúmeno (el superior de la comunidad, en Oriente) Alejandro de Gomón. Esta comunidad había alcanzado su máxima prosperidad y celebridad bajo el segundo sucesor de Alejandro, Marcelo, quien acogió a Juan. La comunidad tenía como regla y bandera el Evangelio, del cual todo monje debía llevar siempre consigo una copia; Juan se había procurado una ya en Constantinopla, mientras esperaba huir con el monje cuando éste volviera a Jerusalén. Sus padres, ignorando la intención por la que su hijo quería tener el Evangelio, le habían regalado una copia con escritura dorada, miniado, y recubierto de oro y piedras preciosas, que fue quien le procuró a nuestro santo el apodo de «El del Evangelio de oro».
Después de seis años de permanencia en el monasterio de los acemetas, Juan lo abandonó para obedecer a una segunda llamada divina, y, cambiando sus hábitos con el de un mendigo, volvió a su casa de incógnito, viviendo como pordiosero a las puertas de la casa paterna, bajo los ojos de sus progenitores. La madre, irritada a la vista de este andrajoso, más de una vez dio orden a sus siervos de echarlo, mas el padre se mostraba más humano y caritativo. El mayordomo de palacio, aprovechando la humanidad del patrón, pero queriendo al mismo tiempo quitar ese objeto de fastidio de la vista de la patrona, construyó junto a la puerta del palacio una choza en la cual nuestro santo vivió por tres años; de allí los dos apelativos dados a Juan por la tradición: «mendigo» y «calibita» (que vive en choza). Solamente tres días antes de la muerte, que presintió, se dio a conocer mostrando el Evangelio de oro.
Esta revelación y la santa muerte de Juan provocaron un enorme cambio en el ánimo de los padres, que transformaron su enorme palacio en un albergue para acoger peregrinos, en el cual ellos mismos servían a los que se alojaban; y en el lugar de la choza donde su hijo había vivido por tres años, erigieron una iglesia que existía ya en el 468, en tiempos del famoso incendio que destruyó una parte de la ciudad imperial.