Sfântul Ilarion s-a născut în Creta, la Heraclion, din părinţi evlavioşi, care i-au dat numele de Ioan. Pentru a-şi desăvârşi educaţia a fost trimis la Constantinopol, la un unchi medic. Însă acesta nu s-a ocupat deloc de băiat şi l-a trimis la muncă la un negustor de fel din Chios. Revenind acesta din urmă dintr-o călătorie, a băgat de seamă că, dintr-o greşeală, Ioan îl făcuse să piardă o sumă mare de bani şi a voit să îl oblige să îi înapoieze întru totul. Cuprins de deznădejde, Ioan a mers la palatul sultanului să ceară ajutor, iar acolo a întâlnit un agă etiopian care, ajutat de diavol, a reuşit să-l convingă să devină musulman. După trei zile însă, cum conştiinţa nu-i dădea pace defel, Ioan s-a pocăit, a fugit de la palat şi, aflând un vapor care pleca în Crimeea, a urcat la bord.

După ce a petrecut zece luni în Crimeea s-a întors la Constantinopol şi, urmând sfatul unui monah bătrân din oraş, a plecat în Sfântul Munte Athos. A rămas câţiva ani la schitul Sfintei Ana, în preajma unui stareţ pe nume Visarion care, cu ceva vreme înainte, îl pregătise pe Sfântul Luca de Mitilene pentru mucenicie (23 martie). Îmbrăcând haina îngerească sub numele de Ilarion, a început a lucra nevoinţe aspre, care nu stingeau nicicum setea sa de pocăinţă. Într-atât era de arzătoare dragostea sa pentru Hristos, încât Ilarion dorea să se asemene Domnului până la a suferi mucenicia pentru El.

Primind în cele din urmă binecuvântarea părintelui său duhovnicesc, s-a întors la Constantinopol pentru a mărturisi aici revenirea lui la creştinism. Ajuns la palat, a călcat în picioare turbanul turcesc dinaintea agăi din pricina căruia se lepădase de adevărata credinţă.

Supus fiind unor cazne cumplite, s-a săvârşit de sabie în ziua de 20 septembrie 1804.