Rus işgali döneminde, 1878-1918 yılları arasında inşa edildiği rivayet edilen Gümrük Müdürlüğü Binası şehrin baltık mimarisi örneklerinden biridir. Yapıldığı dönemlerde Rus Gümrük Binası olarak kullanılan yapı, 1923 yılından sonra da gümrük binası olarak kullanılmaya devam edilmiştir.

2001 yılında Çekül Vakfı tarafından restore edilip Kent Konseyi Binası olarak hizmete açılmıştır. Günümüzde de Kars Gümrük Müdürlüğü Binası olarak hizmet vermektedir.

Doğu-batı doğrultusunda dikdörtgen planlı olarak inşa edilen yapı iki katlı olarak tasarlanmıştır. Düzgün kesme taşla örgülü Neo-Klasik üslup özellikleri gösteren yapının kuzeye bakan ön cephesinde bulunan giriş bölümü iki kat yüksekliğinde dışa taşıntılı olarak yapılmış ve üçgen alınlıkla sonlandırılmıştır.

Yapının güneydoğu köşesinde ise Art-Nouveau üslubunda, ahşap üzerine ajur tekniğinde yapılmış balkon bulunmaktadır.