ประวัติความเป็นมาเรื่องเล่าขานของถ้ำศักดิ์สิทธิ์
จากป่าทึบสู่สถานที่นั่งสมาธิที่สงบเงียบ
ต่อมาเมื่อเปิดป่าในช่วงเมื่อ 100 ปีที่ผ่านมา พระพุทธรูปที่ซ่อนอยู่จำนวนมากได้ถูกเคลื่อนย้ายไป ทั้งจากผู้หวังดีและไม่หวังดี ทำให้ไม่มีพระพุทธรูปโบราณให้เห็นอีกต่อไป
ปัจจุบันวัดถ้ำเขาพระอยู่ห่างจากที่ทำการองค์การบริหารส่วนตำบลถ้ำกระต่ายทองประมาณ 10 กิโลเมตร เส้นทางที่ไปบางตอนลาดยาง บางตอนเป็นคอนกรีต เข้าไปในป่าโปร่งพบภูเขาลูกใหญ่ ซึ่งเป็นภูเขาหินอ่อนที่ชาวบ้านแถบนั้นอนุรักษ์ไว้
บริเวณหน้าผาที่สูงชันราว 200 เมตร มีถ้ำขนาดใหญ่ที่ได้รับการตกแต่งจากธรรมชาติและมนุษย์ร่วมกันอย่างลงตัว มีพระพุทธรูปที่นำเข้าไปประดิษฐานใหม่ไม่กี่องค์ มีอาสนะสงฆ์สำหรับนั่งวิปัสสนาอย่างดูดี ความสูงชันของหน้าผาทำให้ถ้ำโปร่ง น่าอยู่และน่าเที่ยวชมยิ่ง
“วัดถ้ำเขาพระจึงเป็นสถานที่ท่องเที่ยวทางวัฒนธรรมที่งดงามมาก ถ้าผู้ที่รักสงบ รักธรรมชาติ รักในความเป็นชนบท ไปเที่ยวชมสักครั้งจะรู้สึกว่าคุ้มค่ามากที่สุด”
เมื่อได้มีโอกาสสนทนาธรรมกับพระอาจารย์ทองแพน อฐิตสโท ก็รู้สึกว่าท่านมีความอดทนและมีตบะบารมีมาก ท่านอยู่ที่วัดแห่งนี้เพียงรูปเดียวมานับสิบปี นับว่าน่าสรรเสริญอย่างยิ่ง ในวัยอันยังหนุ่มแน่น ท่านจะยังทำประโยชน์ต่อพระพุทธศาสนาและยังดูแลป่าบริเวณนี้ให้อยู่ในสภาพที่สมบูรณ์ ไม่ให้ใครมาทำลายอีกต่อไป