เดิมชื่อวัดป่าแก้วหรือวัดเจ้าพระยาไทย ตั้งอยู่ทางฝั่งตะวันออกของแม่น้ำป่าสัก จากกรุงเทพฯ เข้าตัวเมืองอยุธยาแล้วจะเห็นเจดีย์วัดสามปลื้ม (เจดีย์กลางถนน) ให้เลี้ยวซ้ายตรงไปประมาณ 1 กิโลเมตร จะเห็นวัดใหญ่ชัยมงคลอยู่ทางซ้ายมือ วัดนี้ตามข้อมูลประวัติศาสตร์สันนิษฐานว่าพระเจ้าอู่ทองทรงสร้างขึ้นเมื่อ พ.ศ. 1900 สำหรับเป็นสำนักของพระสงฆ์ซึ่งไปบวชเรียนมาแต่สำนักพระวันรัตน์มหาเถรในประเทศลังกา คณะสงฆ์ที่ไปศึกษาพระธรรมวินัยเรียกนามนิกายในภาษาไทยว่า “คณะป่าแก้ว” วัดนี้จึงได้ชื่อว่า วัดคณะป่าแก้ว ต่อมาเรียกให้สั้นลงว่า “วัดป่าแก้ว” ต่อมาคนเลื่อมใสบวชเรียนพระสงฆ์นิกายนี้ พระราชาธิบดีจึงตั้งอธิบดีสงฆ์นิกายนี้เป็นสมเด็จพระวันรัตน์มีตำแหน่งเป็นสังฆราชฝ่ายขวาคู่กับ
พระพุทธโฆษาจารย์เป็นอธิบดีสงฆ์ฝ่ายคันถธุระมีตำแหน่งเป็นสังฆราชฝ่ายซ้าย หลังจากนั้นได้เปลี่ยนชื่อเป็น“วัดเจ้าพระยาไทย” สันนิษฐานว่ามาจากที่สมเด็จพระรามาธิบดีที่ 1 ทรงสร้างวัดป่าแก้วขึ้น ณ บริเวณที่ซึ่งได้ถวายพระเพลิงพระศพของเจ้าแก้วเจ้าไทยหรืออาจมาจากการที่วัดนี้เป็นที่ประทับของพระสังฆราชฝ่ายขวา ซึ่งในสมัยโบราณเรียกพระสงฆ์ว่า “เจ้าไทย” ฉะนั้นเจ้าพระยาไทยจึงหมายถึงตำแหน่งพระสังฆราชในปี พ.ศ. 2135 เมื่อสมเด็จพระนเรศวรมหาราชทรงทำศึกยุทธหัตถีชนะพระมหาอุปราชแห่งพม่าที่ตำบลหนองสาหร่าย เมืองสุพรรณบุรี ทรงสร้างพระเจดีย์ใหญ่ขึ้นที่วัดนี้เป็นอนุสรณ์แห่งชัยชนะ การสร้างพระเจดีย์อาจสร้างเสริมพระเจดีย์เดิมที่มีอยู่หรืออาจสร้างใหม่ทั้งองค์ก็ได้ ไม่มีหลักฐานแน่นอน ขนานนามว่า “พระเจดีย์ชัยมงคล” แต่ราษฎรเรียกว่า “พระเจดีย์ใหญ่” ฉะนั้นนานวันเข้าวัดนี้จึงเรียกชื่อเป็น “วัดใหญ่ชัยมงคล” วัดนี้ร้างไปเมื่อคราวเสียกรุงครั้งสุดท้าย และเพิ่งจะตั้งขึ้นเป็นวัดที่มีพระสงฆ์อยู่จำพรรษาเมื่อไม่นานมานี้