Thật ra, ngôi chùa đã có tại chỗ từ trước năm 1555, vì trong sách Ô
Châu Cận Lục viết vào thời điểm ấy, tác giả Dương Văn An đã từng nói
đến ngôi chùa cổ này rồi. Có lẽ hồi ấy chùa còn đơn sơ nhỏ hẹp, kiến trúc
chưa quy mô to lớn như về sau. Thế rồi, sau khi chúa Nguyễn Hoàng vào
Nam (1558), một dạo đến chơi đây, vừa có được những gợi hứng tốt đẹp từ
ngôi chùa cổ, vừa thấy rõ ở đấy phong cảnh thoát tục hữu tình, nên năm
1601, chúa cho xây lại ngôi chùa một cách chính thức, chùa trở nên khang
trang hơn.
Năm 1665, chùa được chúa Nguyễn Phúc Tân cho trùng tu. Cuối năm
1695, Hòa thượng Thạch Liên (Thích Đại Sán) ở Quảng Đông được chúa
Nguyễn Phúc Chu mời qua hoằng dương chánh pháp tại đây. Chùa càng trở
nên nổi tiếng. Năm 1710, vị chúa Nguyễn ấy cho đúc Đại hồng chung và
viết một bài ký để khắc vào chuông. Năm 1714, chúa sai Chưởng cơ Tông
Đức Đại đứng ra trông coi việc trùng tu và mở rộng ngôi chùa - xây thêm
nhiều điện đài, đỉnh chiện, nhà cửa. Tất cả có đến vài chục công trình kiến
trúc, nơi nào cũng huy hoàng tráng lệ. Công tác kéo dài 1 năm. Khi xong,
chúa lại viết một bài ký, cho khắc vào bia đá để kỷ niệm và nhờ người qua
Trung Quốc thỉnh hơn 1.000 bộ kinh sách Phật giáo về tàng trữ ở chùa.
Dưới thời Tây Sơn (1786 - 1801) chùa Thiên Mụ bị binh hỏa tàn phá
rất nặng nề. Theo Phan Huy Ích, đã có lúc triều đại lấy chùa làm đền Xã
Tắc. Vào các năm 1815 và 1831, vua Gia Long và vua Minh Mạng cho tu
sửa lại. Năm 1844, để kỷ niệm bà Thuận Thiên Cao Hòang Hậu (vợ vua
Gia Long) thọ 80 tuổi (Bát tuần Thánh thọ), vua Thiệu Trị cử Thống Chế
Hoàng Văn Hậu đứng ra điều khiển công cuộc kiến trúc lại ngôi chùa một
cách quy mô - xây thêm tháp Pháp Duyên, đỉnh Hương Nguyện, dựng hai
tấm bia ghi chép thơ văn của nhà vua. Dưới thời Tự Đức, sau những thất
bại dồn dập trong việc nước, việc nhà, vua nghỉ có lẽ dùng chữ "Thiên" đã
động đến trời, cho nên danh từ "Thiên Mụ" có đổi thành "Linh Mụ" trong
một thời gian ngắn (1862 - 1869).
Năm 1899, để đóng góp công đức cho chùa nhân dịp lễ Cữu tuần Đại
Khánh tiết (mừng thọ 90 tuổi) của bà Từ Dũ (vợ vua Thiên Trị), vua Thành
Thái cho Bộ Công "đại gia tu bổ" tháp Phước Duyên và dựng bia kỷ niệm.
