En lo alto de las orillas del río Kumbukkan, escondido en medio de la densa jungla, se encuentra un antiguo monasterio del siglo III a. C. Perdido en el bosque y las bestias salvajes, las cuevas, la estructura rocosa y la estatua de Buda yacían abandonadas con el tiempo dispersas e inexploradas.
Bowattegala, una montaña salpicada de rocas en medio de Kumana, había sido construida por primera vez como monasterio en el siglo III-II a. C. por los diez nobles hermanos de Kataragama, conocidos en la historia de Sri Lanka como «Kataragama-kshathriya». La inscripción de la cueva habla de la genealogía de estos reyes del sur, que gobernaron las provincias del sur y del este de Lanka bajo el régimen del rey principal en Anuradhapura.
Estos nobles príncipes del sur de Sri Lanka habían sido participantes de los festivales celebrados en Anuradhapura en celebración de la llegada del sagrado Jaya Sri Maha Bodhi a Sri Lanka y habían recibido una de las primeras ocho plantas del sagrado árbol Bodhi. Aunque durante mucho tiempo se creyó que este brote de Bodhi se había plantado en Kataragama, algunos arqueólogos especulan que la planta joven de Bodhi podría haberse plantado en Bowattegala; por lo tanto, la razón de una inscripción de piedra singularmente larga dentro de los terrenos del monasterio
Mientras tanto, sucesivos reyes y nobles provinciales también se sumaron al esplendor del monasterio y las inscripciones de la cueva hablan de un ministro en nombre de Naka, el rey Mahasen y el rey Jetta Thissa de hacer varias contribuciones a lo largo de la historia.
Las cuevas que se encuentran en la montaña son casi todas repisas de goteo, lo que sugiere un monasterio repartido por la montaña. Sin embargo, algunas de las cuevas habían sido renovadas en épocas posteriores con el uso de ladrillos y madera. Los interiores enlucidos de algunas cuevas aún permanecen en su lugar, mientras que los marcos de las puertas de madera parcialmente destruidos permanecen en la entrada de algunas cuevas.
Algunas cuevas tienen evidencia de habitabilidad hasta el siglo XVII, aunque aún no se ha descubierto si la vida monástica estaba intacta en ese momento.
Los terrenos del monasterio también consistieron en edificios de varias formas y épocas, pero ninguno permanece intacto excepto por las pilas de ladrillos y pilares de roca. Las ruinas de tres estupas de ladrillo y cimientos yacían esparcidas sobre las proyecciones rocosas de la montaña, mientras que los estanques de roca habían sido reconstruidos e improvisados como recursos de agua para el monasterio, por el rey Jetathissa como tributo al servicio prestado en la difusión del Dhamma del Señor Buda.
A pesar del repetido patrocinio real y la benevolencia, el monasterio no había sobrevivido a su segundo milenio y se decía que había proporcionado refugio a los singulares meditadores y rebeldes, que luchaban contra el gobierno colonial desde el siglo XVI.