Овај велики подвижник и светилник Цркве православне родио се близу Софије у месту Скрину, у време цара Бориса (852-889 г.). Родио се од побожних родитеља, средњег имовног стања. Из младости заволевши Господа, Јован по смрти родитеља раздаде сиромасима и болесницима своје имање, наслеђено од родитеља, замонаши се, и само са једном кожном хаљином на себи напусти свој родни крај и удаљи се у једну дивљу гору, и ту се у једној пећини почне подвизавати. Претрпео је ту многе напасти од демона и од људи, од разбојника и од својих сродника. Потом се пресели у планину Рилску, и настани у једном шупљем дрвету. Хранио се само травом, и бобом, који ту у близини почне расти по Божјем промислу. Многе године он није видео лица човечјег, док га, опет по Божјем промислу, не открију чобани, који су трагали за својим изгубљеним овцама. Тако се светитељ прочује међу људима, и људи му почну долазити гражећи помоћи у болестима и мукама. Многи су долазили к њему са својим болесницима, и болесници су добијали здравље светитељевим молитвама. Један човек у коме већ неколико година бејаше нечисти дух, видећи људе где иду у Јованову пустињу, пође за њима. А када дође на километар од Рилске пустиње, он паде на земљу и стаде викати: "Не могу да идем даље, пече ме огањ". Санутници свезаше тог јадника, одвукоше га к преподобном и мољаху га да га исцели. Децо моја, рече им преподобни, то није у мојој моћи, ја сам слаб човек као и ви: њега само Бог може исцелити. - Но они га неодступно мољаху, и пустињак се помоли Богу за њега, и болесник наједном постаде здрав, и сви прославише Бога.
Глас о великом пустињаку дође до бугарског цара Петра (927-969 г.). Благочестиви цар силно жељаше да се види с њим, али смирени пустињак избеже да се састане с њим, само му у писму даде потребан савет.
Многи ревнитељи духовног живота, привучени врлинским животом светог подвижника, настанише се у близини преподобног пустињака. Ту се убрзо построји храм и манастир. Достигавши дубоку старост, свети Јован се упокоји мирно у Господу осамнаестог августа 946 године, у седамдесетој години свога живота. По смрти јавио се ученицима својим. Мошти његове пренесене су најпре у Софију, па су одатле приликом најезде Угара однете у Мађарску, а отуда су поново враћене у Трново у време цара Јована Асена (1218 - 1241 г.). Када су касније Турци заузели Трново, посредовањем султаније Маре Бранковић, мошти светог Јована Рилског пренете су најзад у манастир Рилски, где и данас почивају. Рилски манастир су обновили и Српски владари краљ Милутин и цар Душан, и он је кроз векове био кула светиља и место силе чудотворне и утехе духовне за народ хришћански у Бугарској, нарочито пак у тешка времена робовања под Турцима. Житије пак преподобног Јована Рилског написао је на грчком Георгије Скилица (у 12 веку), а на словенском Трновски патријарх Јефтимије.