Yapılan araştırmalar ve arkeolojik kazılar Kırşehir’in yerleşim bölgesi olmasının M.Ö. 3000 yıllarında başladığını göstermektedir. Kışehir’deki höyüklerden elde edilen çanak-çömlek parçaları, bu döneme ait bilgiler içermektedir. 1930’lu yıllarda Türk ve İtalyan arkeologlar tarafından Merkez İlçe’ye bağlı Hashöyük’te yapılan arkeolojik kazılar, M.Ö 3000’e ait çanak-çömlek kalıntılarını ortaya çıkarmıştır. Kırşehir’in adının eski çağlarda “Parnassos” ya da “Makissos” olduğu bilinmektedir. Hititler döneminde Kırşehir havzasına “Ahiyuva” ülkesi denilmektedir. Rama ve Bizans döneminde ise “Kapadokya” olarak anılmıştır. Kapadokya Kralığı, Roma İmparatorluğu’nun hakimiyetini tanımış ve Roma İmparatorluğu da Kapadokya Krallığı ile birlikte Kırşehir yöresini de kendine bağlamıştır. M.S. 395 yılında Roma İmparatorluğu Batı ve Doğu olarak ikiye bölününce, bütün Anadolu gibi bu bölge de Doğu Roma’nın (Bizans) olmuştur.

Bizans döneminde Makissos, daha sonra da Justinianapolis adıyla anılan Kırşehir’i aynı yüzyılda yaşayan tarihçi Prokopios’un verdiği bilgilere göre Justinianus, Kırşehir’i yeniden imar ederek kent durumuna getirmiştir. 647 yılında Emevi devletinin Şam Valisi Muaviye, Kayser, ve Kırşehir bölgelerini işgal etmiştir. Kırşehir merkezine bağlı Taburoğlu köyü yakınlarındaki Üçayak Kilisesi, Kaman Temirli’deki Kilise, Mucur Aksaklı ve Aflak köylerindeki Kaya Kiliseleri, Derefakılı Kiliseleri, Mucur Manastır ve Keşiş sarayı, Bizans dönemine ait mimari kalıntılardır. Kırşehir civarında da Bizans dönemine ait kandiller, takılar, sırlı mavi ve sarı renkli seramik eşyalara rastlanmıştır.

1071’den sonra Anadolu toprakları Türkler’e açılınca, Kırşehir’in Türk tarihine katılma dönemi başlamıştır. Kutalmışoğlu Süleyman Şah, kent ve çevresini Anadolu Selçukluları’na bağlamıştır. 1402 yılında Osmanlılar Ankara Savaşı’nda Timur’a yenilince Kırşehir ve yöresi, Karamanlılar’a verilir. Çünkü bu savaşta Karamanlılar Timur tarafında yer alıp, onu desteklemişlerdir. Fatih Sultan Mehmet’in Karamanlılar’ı yenmesinden ve Yavuz Sultan Selim’in Dulkadiroğulları’nı tarihten silmesinden sonra Kırşehir, Osmanlılar’ın egemenliğine geçmiştir.