Köyün eski adı Gödet'tir. Güldere olarak 1965 yılında değiştirilmiştir. Yerleşim yeri olarak bir vadi içerisinde ve dere kenarında olduğu için Güldere ismi verilmiştir. Gödet adının ise tam olarak nereden geldiği ve anlamının ne olduğu araştırılmamıştır.

Gödet Köyünün tarihi ise ciddi olarak araştırılmamakla birlikte çok eski tarihlere dayanmakta olduğu biliniyor. Şu an köyün bulunduğu yer yaklaşık 600-700 ila bin yıla yakın bir tarihi geçmişe sahiptir. Bilinen harabelerin bulunduğu bir çok yer de vardır. Dığrak denilen mevkiinde halen kalıntılar ortaya çıkar. Buralara halen "Cami Altı" ve "Hamamın Altı" denilir. Bununla birlikte özellikle Kale denilen bölge ve köyün değişik mevkilerinde bulunan, çok sayıda, insan eli ile oluşturulmuş mağaralar bulunmaktadır. Zindanlı, Kabaklık, Bucak Bağı, Ballı Gödet mevkileri buralardan bazılarıdır.

Köy olarak, bölgenin bir zamanlar merkezi idi. Seksenli yıllara kadar çevre köylerin (Güme, Eleksi, Çivi, Çimen Kuyu, Gödet Ağini, Akpınar-Dağa, Göves vs.) özellikle unlarını öğütmek için ziyaret etmek zorunda oldukları bir yer idi. Çünkü çevrede iki adet su değirmeni olan, hatta sayılan köyler içinde değirmeni olan tek köy idi. Değirmenin biri devre dışı kalmakla birlikte diğeri halen köylüye hizmet vermektedir.