Eskiçağlarda pafhlagonya sınırları içinde yer alan bir kıyı kenti idi. Köşk Höyük' te arkeolojik yüzey araştırmaları sırasında çıkarılan bir takım buluntular ve buluntuların Hititlere ait olduğunun saptanması Carusa?nın Hititlerden beri yerleşime sahne olduğunu kanıtlamaktadır.
Kaynaklardan ilçenin eski isminin Zagora, Gürzühatun, Savetova, Argibete olduğu öğrenilmektedir. Paflagonyalılar buraya Mızraklılar Ülkesi anlamına gelen Gezonolit ismini vermişlerdir. Gerze isminin de buradan kaynaklandığı sanılmaktadır.
Kentin tarihi konusunda yeterli bir araştırma yapılmamıştır. Bununla birlikte, yörenin eski bir tarihi olduğu bilinmektedir. MÖ.1400-1300 yıllarında Kaşkalar buraya egemen olmuş, onları MÖ.1330-1100 yıllarında Hititler, MÖ.1100-700 yıllarında Paflagonya Krallığı izlemiştir. Lydialılar 546?da buraya hakim olmuş, Perslerin Anadolu?yu işgali sırasında MÖ.377?de Persler, MÖ.183?te Pontus Rum İmparatorluğu?nun egemenliği altında kalmıştır. Romalılar MÖ. 64- MS.355 arasında yörede yerleşmiş, Roma?nın ikiye ayrılmasından sonra da MS.395-1126 yıllarında da Bizanslıların hakimiyetinde kalmıştır.