Era hijo de Gonzalo de Yepes y de Catalina Álvarez, tejedores de buratos. El padre y el hermano pequeño, Luis, mueren cuando Juan tiene sólo tres años, por lo que la madre y los dos hijos restantes (Francisco y el propio Juan) se ven obligados por la acuciante pobreza (las penalidades pasadas hicieron de Juan un hombre de escasa corpulencia, bastante bajo de estatura (Santa Teresa lo llamaba “mi medio fraile”)) a trasladarse primero a Arévalo (donde viven durante cuatro años) y en 1551 a Medina del Campo.
A los veintiún años, en 1563, ingresa en los Padres Carmelitas de Medina (orden de los Carmelitas), adoptando el nombre de fray Juan de Santo Matía. Tras realizar el noviciado entre 1563 y 1564 en el convento de Santa Ana, se traslada a Salamanca donde estudiará en el Colegio de San Andrés de los Cármenes entre 1564 y 1567 los tres cursos preceptivos para bachillerarse en Artes. Durante el tercer curso, fue nombrado, por sus destrezas dialécticas, prefecto de estudiantes en el colegio de San Andrés.
En 1567 regresa a Medina del Campo por unos pocos días para ser ordenado presbítero y celebrar su primera misa en presencia de su hermano, del resto de su familia y de sus amigos del convento. Allí conocerá a Teresa de Cepeda y Ahumada, futura Santa Teresa de Jesús, que había llegado a la ciudad para fundar una nueva sede de su Reforma Carmelita, los llamados carmelitas descalzos. Teresa convence a Juan y lo une a su causa de reforma de los Carmelitas. Esta orden reformada tropezó con una gran hostilidad por parte de los carmelitas calzados.
El 28 de noviembre de 1568 funda en Duruelo el primer convento de Descalzos de la rama masculina del Carmelo Descalzo siguiendo la Regla Primitiva, esto es, un establecimiento que propugna el retorno a la práctica original de la Orden; en la ceremonia, cambia su nombre por el de fray Juan de la Cruz. En 1570 la fundación se trasladó a Mancera, donde Juan desempeño el cargo de Subprior y Maestro de novicios; tras una estancia en Pastrana para poner en marcha su noviciado, se establece en 1571 en Alcalá de Henares, como Rector del colegio reción fundado.
Juan se convierte en uno de los principales formadores para los nuevos adeptos a esta reforma carmelitana. En 1572, Juan de la Cruz viaja, a invitación de Teresa de Jesús, al Convento de la Encarnación, en donde asumirá las tareas de Vicario y Confesor de las monjas. Permanecerá aquí hasta finales de 1577, por lo que acompañará a la madre Teresa a la fundación de diversos conventos de Descalzas, como el de Segovia.
Después de un tiempo encarcelado ante su negativa de retractarse por su adhesión a la reforma Teresiana y después de escapar de ese lugar. En 1578 se dirige a Andalucía para recuperarse completamente.
En junio de 1579 se establece en la fundación de Baeza donde permanece como Rector del Colegio Mayor hasta 1582, en que marcha para Granada tras ser nombrado Tercer Definidor y Prior de los Mártires de esa ciudad. Murió en Úbeda la noche del 13 al 14 de diciembre.
