İlimiz Merkez Zafer Mahallesi’nde bulunan ve 19. yüzyılın ilk yarısında yapılmış olan Rum Ortodoks Kilisesi, tarihi kaynaklara göre Burdur'da bulunduğu düşünülen Metamorfosis Kilisesi olduğu sanılmaktadır. Doğu - batı yönünde Bağdadî tekniğiyle inşa edilmiş ve üç nefli kemerli bir tavana sahiptir. Orta nef, geniş ve yüksektir. Apsis ve apsis yanındaki bölümler binanın dış kısmına çıkıntı yapmıştır. Altışar adet ve iki sıra sıva ile kaplı sütunların kaideleri silindirik yivli taştır. Ahşap olan çatısının, alaturka kiremitle örtülü olduğu bilinmektedir. Binanın iç mekânı ahşap sütunlu ve ahşap yapı tekniğiyle yapılmış iyi örnekler arasındadır. Tavanın dışında kalan bazı yerlerde boyalı resimler bulunmaktadır.

3/4 Ekim 1914 Burdur - Isparta Depremi nedeniyle binada hasarlar oluştuğundan yeniden elden geçirilerek tamir edilmiştir. Bu bina, Kültür ve Turizm Bakanlığı tarafından 2000 yılında,  özel mülkiyetten satın alınarak kamulaştırılmıştır. Harabe haline gelmiş olan binanın, öncelikle çatısı aslına uygun olarak yenilenmiş, ardından kapsamlı bir projeyle, binanın mimari özellikleri de hassasiyetle korunarak güçlendirme ve restorasyon işlemleri yapılmıştır.

11 Mart 2016 tarihinde “Doğa Tarihi Müzesi” ismiyle kamu hizmetine açılmıştır.

Güney Fili:

Dünyada nadir bulunan, 10 milyon yıllık bir dev Güney Fili'nin 3.30 metre uzunluğundaki ve 100 kg ağırlığındaki savunma dişi ve kürek kemikleri Kemer ilçesi Elmacık köyünde gün yüzüne çıkarılmıştır. Dünyadaki benzerleri arasında bilinen en yaşlı Güney Fili, Burdur Doğa Tarihi Müzesi’nde sergilenmektedir.