Doğal yapısı gereği savunmaya çok elverişli olduğundan, eski insanlar tarafından ünlü Kemah Kalesi yapılmıştır. Kimler tarafından ve hangi tarihte yapıldığı kesin olarak bilinmemekle beraber, Milattan Önce 205 yıllarında Arzak Kralları tarafından yapıldığı tahmin edilmektedir. Kemah Kalesi Ortaçağda Sasanilerle Doğu Roma İmparatorluğu arasında çekime konusu olmuştur Milattan sonra 638 yıllarında Halife Ömer’in Kumandanlarından İlyas Bin Camn’ın kuvvetleri daha sonra da Halife Ömer’in orduları Bizanslıları buradan çıkararak geçici olarak kaleye sahip olmuşlardır. Müslümanlarda bu bölgeden Hazar Türkleri ve Gürcüler tarafından çıkarılmıştır. Kemah Kalesi 678-679 yıllarında Abbasilerin eline geçmiştir. Bundan sonra Kemah Abbasilerle Bizanslılar arasında elden ele geçmiş, 750-751 yıllarında Bizanslıların hakimiyetine girmiştir. 1071 Malazgirt Savaşından sonra Anadolu kapıları Türklere açılınca Alparslan’ın Kumandanlarından Mengücek tarafından Kemah Türklerin eline geçmiştir. Burada Mengücek Beyliği kalmıştır. İkiyüz yıl ömürlü olan Mengücek Beyliği 1228 yılında Kemah’ı Selçuklu Sultanı Alaaddin Keykubat’a bırakmak zorunda kalmıştır. 1230 yılında İlhanlılar Kemah’ı Selçuklulardan alarak 14. yüzyıla kadar Kemah’a hakim olmuşlardır. 14. yüzyılın ilk yarısında İlhanlılar’ın zayıf düşmesinden Osmanlı egemenliğinin 16. yüzyılın başlarında kesin olarak yerleşmesine kadar Kemah sık sık el değiştirmiştir. 14. yüzyıl sonlarında Osmanlı Devleti doğuya doğru genişlemeye başlayınca Kemah Burak Oğullarından Mutahharten’in elinde bulunuyordu. 1401 yılında sınırlarını genişleten Yıldırım Beyazit Mutahharten’in Timurdan ayrılarak kendisine bağlanmasını istemiş, fakat bu teklif kabul edilmemiştir.Daha sonra Yıldırım Beyazit Erzincan Beyliğini almış, Mutahharten de teslim olmuştur. Fakat Beylik doğrudan doğruya Osmanlı ülkesine katılmayarak Osmanlı egemenliğini kabul eden Mutahharten Bey yerinde bırakılmış, fakat askeri önemi büyük olan Kemah Kalesi Yıldırım Beyazıt tarafından alınmıştır. Timur Yıldırım Beyazıt üzerine sefere giderken Kemah Kalesini alarak Erzincan Beyine vermiştir. Timur’un Orta Asya Seferinden sonra Kemah Akkoyunluların eline geçmiştir. 1473 yılında Otlukbeli Savaşında Uzun Hasan’ın Fatih Sultan Mehmet’e yenilmesi üzerine Kemah Kalesi bir müddet yerli elebaşların elinde kalmıştır. 16. Yüzyılın ilk yarısında Safavilerin eline geçmiştir. 19 Mayıs 1515 Cumartesi günü Yavuz Sultan Selim’in Kemah Kalesini fethetmesiyle Kemah Osmanlı Topraklarına katılmıştır. bundan sonra bir daha Türk hakimiyetinden çıkmamıştır.

Ünlü Türk Gezgini Evliya Çelebi 17. yüzyılda yazdığı Seyahatnamesinde Kemah Kalesine önemli bir yer vermiş ve kalenin sağlamlığını dile getirmiştir.

Birinci Dünya Savaşında Ruslar Kemah Boğazına kadar gelmişlerse de bu boğazı geçemeyerek Erzincan’a çekilmek zorunda kalmışlardır. Böylece Kemah Birinci Dünya Savaşında Ruslara karşı savunma hattı olmuştur.

Kemah’ın Kuzeyinde Refahiye, Güneyinde Ovacık, Batısında İliç İlçeleri, Doğusunda ise Erzincan İli ile çevrilidir. İlçenin güneyinde çok sarp ve yalçın kayalardan meydana gelen Munzur Dağları uzanır. Kuzeybatısında Karadağ, Çölen Dağı ve Vank Dağları vardır. Kemah’da coğrafi yapının en belirgin özelliği arazinin engebeli olmasıdır. Geniş ve düz arazi yok denecek kadar azdır. İlçenin en önemli akarsuyu Fırat nehrinin bir kolu olan ve İlçe Merkezinden geçen Karasudur. Bundan başka Karasu’ya karışan bir çok çay varsa da bunların büyük bir kısmının Eylül ayından sonra suları kesilmektedir.

Kemah İlçesinde Kara iklimi hakim sürmektedir. Yazları kurak ve sıcak, kışları ise soğuk ve yağışlıdır. Yıllık ortalama yağış miktarı 11,6 cm. , yıllık ortalama sıcaklık ise 12,3 derecedir. İlçenin tabii bitki örtüsü steptir. İlkbaharda yeşerip yazın sıcakların etkisiyle kuruyan otsu bitkilerdir. Çevredeki dağlar genellikle çıplak ve ağaçsızdır, yer yer meşelikler mevcut olup, İlçenin Refahiye sınırı yakınında bir miktar orman vardır. Çay kenarlarında yer yer kavak ve söğüt ağaçları vardır.