Yine asırlık bir tarihe sahip olan ve günümüzde halen tüm ihtişamıyla ayakta kalmış KAU Devlet Konservatuar Binası Rus işgali döneminde, 1878-1918 yılları arasında yaptırıldığı kabul edilmektedir.

Kars Kalesi’nin kuzey yamacında, Kars Çayı’nın hemen yanına konumlanan ve Kamu (askeri) binası olarak inşa edildiği düşünülen yapı günümüzde Kafkas Üniversitesi Konservatuar Bölümü’nün Halk Oyunları Bölümü binası olarak hizmet vermektedir.

Baltık mimarisinin önemli temsilcilerinden olan yapı, doğu batı doğrultusunda dikdörtgen planlı ve iki katlı olarak inşa edilmiştir.  Neo-Klasik üslupta yapılmış binanın batı kanadı dışa taşıntı yapmaktadır. Cephe yatay silmelerle katlara ayrılmış olup her iki katta da basık kemerli kabartma kilit taşı ile vurgulanmış pencere açıklıklarına yer verilmiştir. Binanın köşeleri taşların girintili çıkıntılı olarak örülmesi ile hareketlendirilmiştir.