Yörede yerleşimin Neolitik Çağ'da (M.Ö. 8.000-5.500) başladığı tahmin edilmektedir. Yalova'nın kuruluşu ile ilgili kesin bilgiler olmamakla beraber, M.Ö. 7. yüzyılda Trakya'dan Küçük Asya'ya geçerek Marmara Denizi'nin doğusunda bir krallık kuran Bithynialılar (Bitinyalılar) tarafından bir yerleşim yeri olarak kurulduğu tahmin edilmektedir. Bithynialılar Marmara Denizi'nin doğu kıyılarına yerleştiklerinde, Yalova bölgesi de Bithynia Krallığı topraklarına katılmıştır. Bithynia bölgesi ve diğer Anadolu antik bölgelerini gösteren harita Şekil-1'de görülmektedir. Haritadan da görüleceği üzere, şimdiki Yalova, Bursa, Bilecik, Kocaeli, Sakarya, Düzce, Bolu, Zonguldak, Bartın, Karabük ve İstanbul'un asya yakası M.Ö. 6. yüzyılda Bithynia Krallığı toprakları arasında görülmektedir.
M.Ö. 377-327 yılları arasında, Büyük İskender'in Bithynia'ya atadığı komutanı Kalas'ı mağlub eden Bithynialılar, onları topraklarından atmışlardır. M.Ö. 230-182 yılları arasında hüküm süren 1. Prusias zamanında Kios (Gemlik) ve Myrlia (Mudanya) ve Yalova bölgesi Makedonya Kralı 5. Philip'e armağan olarak verilmiştir. Roma İmparatorluğu'ndan kaçan Kartaca Kralı Hannibal, Bithynia Kralı 1. Prusias'a sığınmıştır. Hannibal, 1. Prusias'a armağan olarak Prusa od Olympum (Bursa) kentini kurmuştur. M.Ö. 74'te Roma İmparatorluğu yönetimine giren Yalova ve yöresi, M.S. 395 yılında Roma İmparatorluğu ikiye ayrılınca Doğu Roma yani Bizans İmparatorluğu sınırları içinde kalmıştır.
Bugünkü Yalova Kaplıcaları'nın tarih içinde önemli bir yeri bulunmaktadır. M.Ö. 1200 yıllarında bir yer sarsıntısı ile meydana geldiği tahmin edilen Termal İlçesi'ndeki Kurşunlu Hamamı'nın dış duvarlarında kuvvet tanrısı Herakles (Herkül), sağlık tanrısı Asklepios, sıcak su ve sağlık perileri olan Nemfler'in kabartmaları görülmektedir. Termal'in Bizans İmparatorluğu döneminde imparatorların dinlenme ve tedavi yeri olarak büyük üne sahip olduğu bilinmektedir. Bizans İmparatorluğu'ndan sonra Selçuklular'ın yönetimine giren Yalova bölgesi, Haçlı Seferleri sırasında yakılıp yıkılmıştır. Yalova, Evliya Çelebi'nin Seyahatnamesi'nde Kara Yalovaç, Katip Çelebi'de ise Yalakabad ve Yalıova adlarını almaktadır. O dönemlerde Yalova isminin verildiğini de görmekteyiz. Bu isimler 19. yüzyılda, yörede kırk gün kalıp tetkiklerde bulunan ünlü tarihçi Hammer tarafından da doğrulanmaktadır.
Friglerden Bithynialılara, Selçuklulardan Bizanslılara kadar çeşitli milletlerin yaşamış olduğu Yalova bölgesi, 1326 yılında Osmanlı Devleti Komutanı Gazi Abdurrahman tarafından fethedilmiş ve ebedi Türk yurdu haline gelmiştir.
Osmanlı Beyliği Orhan Gazi zamanında yani 1323-1362 yılları arasında egemen olduğu toprakları yaklaşık olarak 3 kat arttırmış ve Yalova bölgesi de beylik sınırları içerisine katılmıştır.
ski devlet salnameleri incelendiğinde, Yalova'nın 1530 yıllarında İzmit Vilayeti'ne (Liva) bağlı bir kasaba (Yalak-Abad) olduğu görülmektedir. Yalova, 1867 yılında Bursa Merkez Sancağı'na bağlı bir kaza iken, 1901'de bağımsız İzmit Sancağı'na bağlanmıştır. Kurtuluş Savaşı sırasında Yunan askeri birliklerince işgal edilen Yalova, verdiği büyük mücadele ile 19 Temmuz 1921 tarihinde düşman işgalinden kurtulmuştur. 2 Haziran 1929'da Atatürk'ün isteği üzerine çıkarılan bir kanun gereğince, ilçe yapılarak İstanbul İli'ne bağlanmıştır. Kurtuluş Savaşı sonrasında 19 Ağustos 1929 tarihinde ilk defa Yalova'ya gelen Cumhuriyetimizin kurucusu büyük önder Atatürk, Termal'in yeniden inşaasını sağlamıştır. Atatürk, 22 Ocak 1938 tarihinde açılan Termal Oteli'nin ilk konuğu olmuş ve 9 gün süreyle Yalova'da kalmıştır. 1929 yılında yapılan Millet Çiftliği'nin yapılışı sırasında, ikinci kata gelindiğinde, batıda bulunan ağacın kesileceğini gören Atatürk, yapının temelini biraz doğuya alarak binayı kaydırmış ve ağacın kesilmesini engellemiştir. Bu nedenle köşk, Yürüyen Köşk olarak anılmaktadır. Atatürk'ün, 'Kurtuluşa öncü' ve 'Benim Kentim' olarak bahsettiği Yalova, adeta yazlık başkent haline gelmiş ve yine Atatürk'ün isteği üzerine 1930 yılında İstanbul'un ilçeleri arasına katılmış, 1995 yılında ise İstanbul İli'nden ayrılarak il yapılmıştır. Bursa'nın Gemlik İlçesi'ne bağlı Armutlu Beldesi ile Kocaeli'nin Karamürsel İlçesi'ne bağlı Altınova Beldesi ilçe yapılmak suretiyle il sınırları içerisine alınmıştır.
