วัดถ้ำทองพรรณรา เคยมีตำนานเล่าว่า มีชีปริงและชีปรางนำสัมภาระและผู้คนเดินทางมาทางทะเล เพื่อนำแก้วแหวนเงินทองไปสร้างพระบรมธาตุ เมื่อมาถึงอู่เรือ (ปัจจุบันคือบ้านปากรา) ได้ทราบว่าพระบรมธาตุสร้างเสร็จแล้ว จึงได้ขึ้นบกหาสถานที่ที่เหมาะสมคือถ้ำทอง แล้วได้สร้างพระพุทธไสยาสน์ในถ้ำดังกล่าว และนำแก้วแหวนเงินทอง บรรจุไว้ในองค์พระพุทธไสยาสน์นั้นด้วย เมื่อถึงแก่กรรม ลูกหลานจึงได้สร้าง พระพุทธรูปขึ้น 2 องค์ นำกระดูกของชีปริง ชีปรางบรรจุ
พอถึงวันขึ้น 1 ค่ำ เดือน 11 จะมีการทำบุญบูชา พระพุทธไสยาสน์ และพระพุทธรูปที่บรรจุกระดูกชีปริง ชีปราง ซึ่งต่อมาเรียกว่า พระปริง พระปราง เป็นประจำตลอดมาทุกปี ซึ่ง "ประเพณีขึ้นถ้ำ" ตรงกับวันขึ้น 1 ค่ำ เดือน 11 ของทุกปี ประชาชนทั่วสารทิศ มานมัสการพระพุทธไสยาสน์ แก้บนด้วยขนมพอง ขนมลา และเที่ยวชมถ้ำต่าง ๆ ภายในวัด ซึ่งมีอยู่หลายถ้ำ ทั้งเป็นถ้ำแจ้งและถ้ำมืด