Der ehrw. Johannes von Rila wurde 876, nicht lange nach der Taufe der Donau-Bulgaren im Jahre 865, in Skrino, einem im heutigen Sofioter Bezirk gelegenen Dorf, geboren. Nach der im Volk gängigen Überlieferung soll er schon früh seine Eltern verloren haben, so dass er sich bei Fremden als Hirte verdingen musste. Weil er eine Kuh mit ihrem Kälbchen seinem Brotgeber nicht wieder von der Weide heimbrachte, erhielt er eine so schwere Tracht Prügel, dass der Waisenknabe an den Rand der Verzweiflung geriet. Unter Tränen bat er den Herrn, ihm bei der Suche zu helfen. Gott erhörte nicht nur das Gebet des Knaben, sondern wirkte ein Wunder, an dem deutlich wurde, dass Gott ihn zu besonderem Dienst erwählt hatte. Johannes fand die Kuh und das Kälbchen. Die Struma führte jedoch so viel Wasser, dass das Kälbchen den Fluss nicht überqueren konnte. Johannes sank abermals zum Gebet auf die Knie, legte seinen Rock auf das Wasser, und ergriff, nachdem er ihn gesegnet hatte, das Kalb, um mit ihm wie auf trockenem Wege an das andere Ufer zu gelangen. Hier wartete bereits das Muttertier. Der reiche Bauer, der sich im Wald verbargen gehalten und den Knaben beobachtet hatte, erschrak über das Geschehen zutiefst. Er entlohnte Johannes reichlich und entließ ihn aus seinem Dienst. Der junge Mann verließ daraufhin sein Heimatdorf und galt lange Zeit als verschollen. Erst im reifen Alter ließ er sich in der Wildnis von Rila als erfahrener Mönch nieder. Rasch verbreitete sich das Gerücht von seinen Glaubenstaten und der Hilfe, die Gott durch ihn wirkte. Bald strömten die Menschen zu ihm in die Einöde, Unterweisung und Hilfe suchend. Mancher entschied sich, sein Schüler zu werden, verließ die Welt und ließ sich bei dem Starken Johannes nieder. Die Keimzelle eines Klosters entstand. Sein geheiligtes Leben und die Zeichen der Gnade Gottes, die auf sein Gebet hin geschahen, waren die beste Predigt des christlichen Glaubens in dem erst kurze Zeit zuvor getauften bulgarischen Land. Mit eigener Hand schrieb er 941 das Testament an seine Schüler, ein Meisterwerk der altbulgarischen Literatur. In ihm bezeichnet er sich als den "demütigen und sündhaften ersten Bewohner der Einöde von Rila". Der hl. Johannes legte Wert darauf, dass zum Mönchsleben auch körperliche Arbeit gehört.
Im Alter von 70 Jahren wurde der ehrw. Johannes von Rila am 18. August 946 von Gott heimgerufen. Groß war die Klage der Bruderschaft, als der Leib des Starzen unweit seiner Klause in einer Höhle beigesetzt wurde, die eine Zeitlang ihm als Zelle gedient hatte. Vermutlich entstand bereits damals das Offizium, in dem der Ehrwürdige gepriesen wird.
Als 980 während des Krieges mit Byzanz die Mönche das Kloster verlassen mussten, öffneten sie das Grab des Ehrwürdigen und fanden zu ihrer großen Überraschung den Körper unverwest und wohlriechend. Sie überführten seine Gebeine nach Sofia.
Der Teil der Bruderschaft, der im Rila-Kloster blieb, verwahrte die rechte Hand des Ehrwürdigen, bis sie später, als sich die militärische Lage zuspitzte, nach Russland gebracht wurde. Im östlichen Grenzgebiet der Rus wurde eine Festung errichtet: Rilsk. Die Kirche auf dem nahe gelegenen Berg trug den Namen des Klostergründers und Abtes. Eine Überlieferung berichtet, dass zur Zeit der Tatareneinfälle unter Batyj der ehrw. Johannes die Burg vor der tatarischen Verwüstung gerettet habe.
In späterer Zeit wurden in Russland Kirchen auf den Namen des heiligen Johannes geweiht.