วัดกุยบุรี เป็นวัดราษฎร์ สังกัดคณะสงฆ์มหานิกาย ก่อตั้งประมาณปี 2129 ได้รับพระราชทานวิสุงคามสีมา เมื่อปี 2503 ถือเป็นวัดเก่าแก่ที่มีความสำคัญทางประวัติศาสตร์คู่เมืองกุยบุรี ตั้งแต่สมัยกรุงศรีอยุธยา หลวงพ่อในกุฏิ เป็นพระอริยสงฆ์ผู้ทรงคุณบารมีและอภิญญาสมาบัติ เดิมชื่อมาก หรือบุญมาก ท่านเกิดในราวปีมะเส็ง สมัยแผ่นดินพระเจ้าเอกทัศ กรุงศรีอยุธยาตอนปลาย เป็นน้องคนสุดท้องของ 3 พี่น้อง คือ ท่านอินทร์ ท่านม่วง และท่านมาก ท่านมีพี่น้องสี่คน น้องคนสุดท้องเป็นผู้หญิง ท่านเป็นคนปักษ์ใต้โดยกำเนิด น่าจะอยู่จังหวัดชุมพร ตระกูลของหลวงพ่อเป็นตระกูลที่มีศรัทธาเลื่อมใสในพระพุทธศาสนาเป็นอันมาก เมื่ออายุครบบวช ท่านและพี่ชายได้ออกบวชและครองสมณเพศตลอดชีวิต หลวงพ่อทั้งสามเชี่ยวชาญเรื่องเวชกรรม ไสยศาสตร์ และวิปัสสนากัมมัฏฐาน เมื่อบวชเป็นเวลาพอสมควรแล้ว จึงชวนกันออกธุดงค์ มีความแตกฉานในสรรพวิชาทั้งสามองค์ เมื่อได้อยู่จำพรรษาที่วัดเดิมกันมาตามสมควรแล้ว จึงได้ชักชวนกันเดินธุดงค์โดยหลวงพ่ออินทร์ เลือกมาจำพรรษาที่เมืองกำเนิดนพคุณ หรือเมืองบางสะพาน ปัจจุบันมีรูปเหมือนของท่านประดิษฐานอยู่ที่วัดเขาโบสถ์ อ.บางสะพาน หลวงพ่อม่วง น้องคนกลาง เลือกจำพรรษาที่ถ้ำแห่งหนึ่ง ระหว่างบ้านกรูดและทับสะแก ถ้ำแห่งนั้น คือถ้ำคีรีวงศ์ และกลายเป็นวัดถ้ำคีรีวงศ์ ในปัจจุบัน ส่วนหลวงพ่อมาก หรือหลวงพ่อในกุฏิ เลือกจำพรรษาที่วัดกุยบุรี วัดเก่าแก่คู่บ้านคู่เมือง มีแม่น้ำกุยบุรีไหลผ่านทางด้านหลังวัดและตั้งอยู่ไม่ไกลจากหมู่บ้าน ที่พระภิกษุจะต้องออกไปบิณฑบาตในเวลาเช้า นับเป็นสับปายะของผู้อยู่อาศัย ถึงจะไม่ไกลจากหมู่บ้าน แต่ก็ปราศจากเสียงอื้ออึงเข้ามารบกวน สมเป็นที่หลีกอยู่ของสมณะผู้ใคร่หาความสงบ หลวงพ่อในกุฏิเป็นผู้ที่ใฝ่ใจในด้านหาความสงบทางจิตยู่แล้ว จึงได้รับอาราธนาจากเจ้าเมืองและชาวกุยบุรี ปกครองวัดกุยบุรีตลอดมา