Tokat, kent adının kökeni konusunda çok sayıda rivayet bulunmaktadır. Bazı çalışmalarda Tokat’ın Togayıt Türkleri tarafından kurulduğu ve şehrin isminin bu topluluğa dayandığı öne sürülmüştür. Ali Cevat ve İ.Hakkı Uzunçarşılı gibi kimi tarihçiler, şehrin adının Tok-kat yani surlu şehir özelliğinden geldiğini savunmuşlardır. Bir başka görüşe göre ise, şehir adını Tok-at yani besili attan almıştır.

Komana Pontika, Pontus Galatikus, Pontus Polemonniakus, Evdoxia, Dokia sözcükleri İ.Ö. 4. yüzyıldan başlayarak Pers, Helenistik, Roma ve Bizansdevirleri boyunca varlığını sürdüren tarihsel kent Tokat ve çevresinin kayda geçen en eski adlarıdır.

Paul Wittek, Tokat’ın Bizans şehirlerinden Dokeia olduğunu ileri sürmüş ve çeşitli örneklerle bunu ispatlamaya çalışmıştır. Tokat kelimesi üzerine bir bildiri kaleme alan Sargon Erdem de Paul Wittek’in bu görüşünü desteklemiştir. Erdem, Dokeia kent adının çanak memleket anlamına geldiğinin söylenebileceğini, “etrafını çevreleyen dağlar arasında, gerçek bir çanak görünümünde olan ve devamlı surette içine su dolmak yani sel gelmek tehdidi altında yaşayan bu memleket için verilebilecek en uygun ismin” de bu olduğunu belirtmiştir.

Bugünkü şehir merkezinin 9 km. kuzey doğusundaki Gümenek, (Komana)Tokat’ın ilk yerleşim yeri olarak kabul edilmektedir. Tarih öncesi çağlara ilişkin, bilim adamları tarafından yapılan araştırmalar neticesinde ortaya çıkarılan eserler, Kalkolitik ve Tunç Çağlarında Tokat çevresinde yerleşimin olduğunu göstermektedir.

Daha sonraki tarihi süreçte, Tokat’a sırasıyla Hititler, Firigler, Kimmerler, İskitler, Medler, Persler ve Makedonlar hâkim olmuştur. M.Ö. 301 - M.S. 66 yılları arasında Pontus Krallığı’nın hâkimiyet sahasına giren Tokat, M.S. 66’dan M.S. 395’e kadar Roma hâkimiyetinde kalmıştır. Roma sonrası Bizans’ın hâkimiyet alanına giren Tokat’a, Emevi ve Abbasi'ler tarafından akınlar yapılmıştır.

1071 Malazgirt Zaferi sonrasında ise, Anadolu’da başarılı komutanlar tarafından fetihler yapılmış ve bu komutanlardan Danişmend Gazi 11. yüzyılda, Tokat ve çevresini fethederek bu bölgede Türk-İslam kültürünün yerleşmesini sağlayacak olan Danişmendli Devleti’ni Niksar merkez olmak üzere kurmuştur. Danişmendlilerden sonra 12. yüzyılda, Anadolu Selçuklu Devleti’nin hâkimiyet sahası içerişinde yer almış olan Tokat, Anadolu Selçuklu Devleti’nden sonra bazı beyliklerin sınırlarına dâhil edilmiştir. Bu dönemde eğitim ve kültür faaliyetleri hız kazanmış ve bu doğrultuda meydana getirilen mimari eserlerden bazıları günümüze kadar ulaşmıştır.

1240 Baba İshak Ayaklanması’ndan etkilenen yörede, 1243’ten sonra sırasıyla, Moğol, İlhanlı, Eratna Beyliği, Kadı Burhanettin Devleti veAkkoyunlular hüküm sürmüştür.

Tokat, 1398 yılında Yıldırım Bayezid döneminde Osmanlı Devleti topraklarına dâhil edilmiştir. Fatih Sultan Mehmed ve Yavuz Sultan Selim,doğu seferlerine giderken Tokat’a uğramışlar ve kentte bir müddet konaklamışlardır. 1473’de Akkoyunlu Hükümdarı Uzun Hasan Tokat’ı yaktırmıştır. 1507’de şehir Şah İsmail tarafından kuşatılmış ancak teslim olmamıştır. II. Bayezid zamanında başlayan ve Yavuz’un son yıllarına kadar sürenCelali Ayaklanmaları'nın ilk dalgasından Tokat büyük ölçüde etkilenmiştir. Hatta, Celali İsyanlarına esin kaynağı olan ve isyanlara adını veren Celal, Turhal’lıdır. İran seferi dönüşünde Kanuni Sultan Süleyman 1559’da Tokat’a uğramıştır.