Tarihin unutulmaz anlarına tanıklık etmiş, önemli tarihi anlaşmalara ev sahipliği yapmış olan Vali Konağı Binası, 1883 yılında inşa edilmiştir.

1919 yılında Cenub-i Garb-i Kafkas Hükümeti’nin Şura Binası ve Kazım Karabekir Paşa’nın Karargâhı olarak kullanılan yapıda 1921 yılında Kars Antlaşması imzalanmıştır. 1923 yılından sonra Vali Konağı olarak kullanılmıştır.

Kuzey-güney doğrultusunda “U” plan şemasında tek katlı olarak inşa edilmiştir. Baltık mimari üslupta inşa edilen yapının ana caddeye bakan doğu cephesinin dışa taşkın orta kısmı yuvarlak kemerli, içe çekik yan kanatlarda ise dikdörtgen formlu pencereler Neo-Barok üsluptaki volütlü akantlardan oluşan kilit taşları ile vurgulanmıştır.  

Neo-Rönesans etkili plasterler ile dikey olarak bölümlere ayrılan cephe Neo-Klasik üsluptaki metop ve triglifler ile Ampir üsluptaki dişli frizin yer aldığı parapet ile sonlandırılmış olup köşelerde yuvarlak kemerli alınlıklara yer verilmiştir.