Sivas’ın fiziki ve manevi dokusunda iki mahalle adı, bir cami, bir zaviye, bir mektep ve bir çeşme ile iz bırakan büyük şahsiyetlerden olan Ali Baba büyük bir ihtimalle 1470’li yıllarda doğmuş ve 1574’de bir asırdan fazla sürdüğü rivayet edilen ömrünü tamamlayıp, dar-ı ukbaya hicret etmiştir.
Büyük Ali Baba ve torunu Küçük Ali Baba büyük kısmı devrin padişahları tarafından, kendilerine mülk olarak tahsis edilen gelir kaynaklarını vakfederek yukarıda sözünü ettiğimiz müesseseleri inşa ettirmişler ve Sivaslılar ile gelip geçen yolcuların hizmetine sunmuşlardır.
Bugünkü konağın girişinin üstündeki köşk kısmı ile konağın önündeki çeşme 1815 yılında Benderli Ali Ağa tarafından yapılmıştır. Konağın diğer kısımlarının bu tarihe yakın bir zamanda yapılmış olduğu söylenebilir .Osmanlı döneminde bilhassa 17. ve 18. Asırlardan konağın müştemilatının daha fazla olduğu bilinmektedir. O dönemlerde yazlık ve kışlık odalar, mutfak, kiler, çardak, yolcular için misafirhane(han), anbar, iki ahır, samanlık, kapıcı odası, fırın ve çeşme ile avlu ve bahçesi bulunuyordu.
Zamanla fonksiyonunu kaybetmesiyle birlikte bugünkü binanın kaldığı anlaşılmaktadır. Bugün bina 7 ana bölümden müteşekkildir. 1- Giriş kısmının sağ tarafında yaşlılar ve evlilerin oturduğu oda 2- Girişin sol kısmında gençler ve bekarların kaldığı oda 3- Semaha, 4- Semahanenin sağ tarafında çilehane 5- Mutfak 6- Semahanenin ikinci katında kadınlar kısmı 7- İkinci katta misafir köşkü.
Bu haliyle belediyemiz tarafından restore edilerek eski ihtişamına kavuşturulan konak, Ali Baba ailesinin son sakinlerinden olan Susamışlar’ın (Mehmet Nuri Susamış ve Oğulları) adına izafeten Susamışlar Konağı olarak adlandırıldı.
Tekkenin kapatılmasından sonra 1979 yılına kadar ev olarak kullanılmıştır. Bu nedenle zorunlu ihtiyaçlar için Semahanenin kuzeyine mutfak, banyo, tuvalet üniteleri bölünerek eklenmiştir.”
