Rivayete göre; Fatih Sultan Mehmet’in İstanbul’u fethi sırasında Osmanlılar surları kuşatır. Ancak o bölgede su sıkıntısı çekilir. Sakabaşı, uzaktan deniz tarafından kalkan kaz sürüleri görür. “Kazların olduğu yerde mutlaka su vardır.” diye düşünerek aramaya başlar. Kaynak bulunur su çıkar. Çeşme Mehmet Efendi isimli bir hayırsever tarafından yaptırılır ve serbest, tek cepheli, kanatsız, tek musluklu, küp gövdeli, kesme taştan klasik üslupla yapılmıştır.1537 yılında, kemerli çeşmenin üstüne kitabenin altına bir “kaz kabartması” eklenir. Semtin adı “Kazlıçeşme” olarak kalır. Kitabede, çeşmenin 1537 yılında Mehmet isimli bir kişi tarafından yaptırıldığı yazılır ama bu kaz kabartmasının, 6’ncı yüzyıldan kalma bir Bizans eseri olduğu da belirtilir. Kaz kabartması günümüzde yoktur. 2002’de çeşmenin içinde define olduğunu düşünenler ve bu kaz kabartmasını pazarlamak balyoz darbesiyle kaz kabartmasını yerinden sökmüştür. Kaz kabartmasının söküldüğü yerden yaklaşık 1 metre boyutunda bir haç figürü çıkar ki bu çeşmenin Fatih döneminden önce, Bizans döneminde yapıldığını gösterir. Veya kullanılan malzemelerin Bizans döneminden kaldığını. Bazı tarihi kaynaklarda da “Kazlıçeşme’ye verilmiş olan bu adın sebebi: bir kaz, otladığı sırada yeri eşeler ve eşelediği yerden su çıkar. Halk da burasını kazarak bir menba yani su kaynağı bulur ve üzerine bir çeşme yapılır.” şeklinde bilgiler vardır.