Hereke, Roma imparatorluğu döneminde, imparator Constantinus’un annesi Helen’in burayı beğenip, yerleşke olarak seçmesi ile önemli bir sayfiye yeri haline gelmiştir ve imparator Constantinus’un 337 yılında Hereke de ölmesi de bu bilgiyi doğrulamaktadır.
Roma imparatorluğu IV. yüzyıl döneminde ikiye bölünmüş, Hereke Doğu Roma İmparatorluğu sınırlarında kalmış ve sınır karakolu kimliği kazanmıştır. Eski adı Ancryon olan Hereke, şu anki adını imparator Heraklios’tan almıştır.
İzmit’in fethi sırasında, buradan kaçanlar Hereke kalesine sığınarak, kaleyi tahkim etmiş ve teslim olunmasını engellemişlerdir. Bunu haber alan Orhan Gazi, Ali Bey’i başbuğ olarak görevlendirip Hereke üzerine göndermiştir. Ali Bey kuşatma esnasında aldığı ok darbesiyle bir gözünü kaybetmesine rağmen cesaretini kaybetmemiş ve kısa süre sonra 640’lı yıllarda yapılan kaleyi teslim almıştır. (1326) Hereke kalesinin fethi İzmit bölgesinin fetihlerinin tamamlayıcısı olmuştur ve böylece Osmanlı beyliğin bağlanmıştır. Hereke Sultan II. Beyazıt döneminde büyük bir deprem yaşar. Deprem 45 gün devam eder ve bu depremde Hereke Kalesi tamamen ortadan kalkar. Bu deprem sonrasında Hereke halkı uzun süre kendini toparlayamaz ve dokumacılıkta da bir süre durağanlık yaşar. Doğu Roma imparatorluğu döneminde, 640’lı yıllarda yapıldığı sanılan Hereke Kalesinin, geçtiğimiz yıllarda yeniden restorasyon çalışmaları yapılmış ve en iyi proje ödülünün sahibi olmuştur. Evliya Çelebi’nin Seyahatnamesinde de bahsedilen 1400 yıllık tarihi olan kalenin, restorasyon çalışması tamamlanmıştır.