Tunçkaya köylüleri, uzun yıllardır sarp kayalıklar üzerinde arazinin konumuna göre inşa edilen ve halen bazı sur kalıntılarının bulunduğu tarihi Keçivan Kalesi'nde yaşam sürüyor.

Yöre halkının yerleşim yerine tek giriş kapısı olan surlarla çevrili kale kapısını kullandığı köyde, cami, kilise gibi bazı tarihi yapıların kalıntıları da bulunuyor.

Yerleşim yerini çevreleyen surların bazı yerlerde yıkık vaziyette olduğu 80 haneli "kale köy", bölgeye gelen yerli ve yabancı turistlerin de ilgisini çekiyor.

Kalenin kesin yapım tarihi ve kimler tarafından yapıldığı bilinmemektedir. Ancak tarihi olaylarda adı geçmesi sebebiyle, kalenin ilk kez Romalılar tarafından inşa edildiği söylenebilir. Hatta bu dönemde Artageria adıyla anılmıştır. Evliya Çelebi, kalenin Abbasi halifelerinden Ebu Cafer Mustansır Billâh El-Mansur Bin Zahir (1226-1242)’in hâkimiyetine girdiğini ve Moğollardan Hulâgû Han (1217-1265) tarafından yakılıp yıkıldığını ve kalede yaşayan halka da zulmedildiğini belirtmektedir.

Bundan sonra Karakoyunlu hükümdarı Kara Yusuf (1357-1420) zamanında yeniden tamir edilen kale, sonraki yıllarda Timur (1336-1405) tarafından harap edilmiştir. Kale, Kanuni Sultan Süleyman’ın 1554 yılındaki Nahçıvan Seferi sırasında, Lala Mustafa Paşa tarafından fethedilerek Osmanlı’ya bağlanmıştır. Evliya Çelebi, bu kaleye de uğramış ve buradan “Geçkovan Dudman Kalesi” diye bahsetmiştir.

Ayrıca üç adet cami ve doğu ucundaki 12. yüzyıla ait bir Selçuklu kümbetinin varlığını da belirtmektedir. Evliya Çelebi’nin bahsetmiş olduğu camilerden sadece birisi kısmen günümüze ulaşabilmiştir.