Yalova'nın adı ; 17. Yuzyılda buralara uğradığını belirten Evliya Celebi'nin yoreyi Kara Yalavacoğlu fethettiğinden dolayı adının Kara Yalovac olduğunu soylemektedir. Katip Celebi de Yalakabad adından soz etmekte ve Yalıova dendiğini soylemektedir. 19. Yuzyılda araştırmacıların yoreye geldikleri Karayalovac yahut Jailakabad veya Yalıova'da denildiğini yazmaktadır. Yalıova olan bu adın zamanla ( -ı) harfinin duştuğu ve Yalova olarak soylendiği bilinmektedir.

Antik cağda XENODOCHION olan yerleşme hakkında kesinlik kazanmış bir bilgi yoktur. Başlangıcta kesin bilgiler olmadığı icin tek başına tarihini ortaya cıkarmak mumkun olmamıştır. Buluntulardan edinilen varsayımlara gore Yalova Prehistorik cağda bir gecit yeridir. Bu bolgede M.O. 700 yıllarında Bithynler, M.O. 1200 yılında Frigler egemen olmuşlardır.

Bizanslılardan sonra bir sure Selcukluların yonetimine giren kasaba; Haclı seferleri sırasında yakılıp, yıkıldı. 1867 'de Bursa Merkez Sancağına bağlı bir kaza iken , 1901 'de bağımsız İzmit Sancağına bağlandı. Ataturk'un isteği uzerine 1930 'da İstanbul ilceleri arasına katılan Yalova, 5 Haziran 1995 tarihli, 550 sayılı Kanun Hukmundeki Kararnamenin 6 Haziran 1995 tarih ve 22305 sayılı Resmi Gazetede yayınlanması ile Yalova il yapılmış, Bursa - Gemlik ilcesine bağlı Armutlu beldesi ve Kocaeli - Karamursel'e bağlı Altınova , Subaşı ve Kaytazdere beldeleri de sınırları icine alınmıştır.