Helenistik Dönem'de Galat boylarından Tektosag’ların başkenti olan Ankara, Roma Dönemi'nde taşra örgütünün başkenti, Bizans Dönemi'nde imparatorların konakladığı önemli bir kent, Osmanlı döneminde ise Anadolu Eyaleti’nin merkezi olmuştur.
İlk kuruluş tarihi kesin olarak bilinmemekle birlikte, kent çevresinde yapılan araştırmalarda bulunan tarih öncesi izler, şehrin insanoğlunun yerleşik düzene geçtiği dönemlerde kurulduğunu göstermektedir.
Buluntular ve araştırmacıların yaptıkları incelemeler, Ankara’da Hititlerin, Friglerin, Lidyalıların ve Galatların yaşamış olduklarını göstermektedir. Şehrin yerleşik düzeni çok eskilere dayanmasına rağmen tarihi, ancak Hitit devrinden itibaren takip edilebilmektedir.
Ankara’nın doğusunda bulunan Çorum ili sınırları içinde Boğazköy’de (Hattuşa) yapılan kazılarda, şehirle ilgili önemli ipuçları elde edilmiştir. Bir kısım yabancı tarihçilere göre Hitit eserlerinde sıkça rastlanan Ankuwa, muhtemelen bugünkü Ankara şehrinin bulunduğu yerdedir.
Hititlerden sonra yöreye Friglerin hâkim oldukları görülmektedir. Eski çağ kaynaklarındaki bir efsaneye göre de Ankara’yı büyük Frig kralı Midas kurmuştur. Şehir merkezi Ulus’ta yapılan kazılarda, Friglerin oturduğuna dair kesin bilgiler elde edilmiştir. Frig devletinin yıkılmasında birinci derecede rol oynayan Kimmer istilasından sonra Ankara Lidyalıların eline geçmiştir. Fakat bu hâkimiyet Pers kralı Kyros’un bütün Anadolu ile birlikte Ankara’yı da zapt etmesi üzerine çok çabuk sona ermiştir. Aradan iki asır geçtikten sonra Büyük İskender, Anadolu’daki Pers hâkimiyetine son vermiştir.
İmparator Augustos’un Ankara’yı kesin olarak almasından sonra burası bir eyalet olarak gelişmiş; mabetler, pazar yerleri, yollar ve su yolları yapılmıştır.
Ankara 334–1073 yılları arasında Bizans İmparatorluğu’nun hâkimiyeti altında kalmıştır. Bu süre zarfında da Hristiyanlığın Anadolu’daki önemli bir merkezi olmuştur. VII. yüzyıldaki Sasani akınlarından sonra Araplar şehri bir süre ellerinde tutmuşlardır.