Roma döneminde Karballa, Bizans döneminden sonra Gelveri ismiyle anılan ilçeye 1965 yılından sonra Güzelyurt ismi verilmiştir. Güzelyurt Kapadokya bölgesinin güneybatısında, Hasan dağının kuzeydoğusunda yer almaktadır. Prehistorik devirden bu yana bir yerleşim merkezi olduğu bilinmektedir. Hitit, Lidya, Pers egemenliğine girmiş olan bölge, aynı zamanda Büyük İskenderin fethine tanıklık etmiştir. M.S. 17 yılında Roma topraklarına katılmıştır. Ortadoks inancının temellerini atan Kapadokyalı üç kilise babasından biri kabul edilenAziz Gregorios aynı zamanda bu bölgede yaşamıştır. Daha sonraki yıllarda Bizans, Selçuklu, Eretna Beyliği, Karamanoğulları bu bölgede hüküm sürmüş ve son olarak Fatih Sultan Mehmet döneminde Osmanlı Devleti topraklarına katılmıştır. 24 Temmuz 1923 Lozan Antlaşması gereği, çizilen sınırların ötesinde kalmış Rumlar ve Türk vatandaşlarımız için mübadele kararı alınmış, 1924 yılında 189916 Rum Anadolu'dan Yunanistan'a, 355635 Türk Yunanistan'dan Anadolu'ya taşınmıştır. Bu anlamda Güzelyurt'a yerleşen Türkler Rumlar kalan konutlara yerleşmiş ve günümüzde Kilise Cami (Hagios Gregorios Theologos) olarak bilinen kiliseyi camiye çevirerek ibadetlerine devam etmişlerdir.
