Gaza a été proclamée la ville juive la plus sainte au XVIIe siècle, au lieu de Jérusalem, par nul autre que le faux messie Shabtai Zvi et son prophète, Natan de Gaza.
Gaza apparaît pour la première fois dans le Tanach comme une ville philistine, le site de la mort dramatique de Samson. Les Juifs l’ont conquis à l’époque hasmonéenne et ont continué à y vivre. Parmi les résidents notables figurent Dunash Ibn Labrat et Nathan de Gaza, conseiller du faux messie Shabtai Zvi. Gaza se trouve à l’intérieur des limites de Shevet Yehuda dans l’Israël biblique (voir Genèse 15, Josué 15:47, Rois 15:47 et Juges 1:18) et par conséquent, certains ont fait valoir qu’il existe une exigence halachique de vivre dans cette région.
La première colonie de la région est celle d’Avraham et Yitzhak, qui vivaient tous deux dans la région de Gerar à Gaza.
Au quatrième siècle, Gaza était le principal port juif d’Israël pour le commerce international.
Les grands rabbins médiévaux tels que le rabbin Yisrael Najara, auteur de Kah Ribon Olam, la chanson populaire du Shabbat, et le célèbre rabbin Mekubal Avraham Azoulai, étaient rabbanim dans les communautés juives de Gaza.
Le retrait périodique des Juifs de Gaza remonte au moins aux Romains en 61 de notre ère, suivie beaucoup plus tard par les Croisés, Napoléon, les Turcs ottomans, les Britanniques et les Égyptiens contemporains. Cependant, les Juifs ont certainement vécu à Gaza tout au long des siècles, avec une présence plus forte au XIXe siècle et au début du XXe siècle.
Les Juifs étaient présents à Gaza jusqu’en 1929, lorsqu’ils ont été forcés de quitter la région en raison de violentes émeutes contre eux par les Arabes. À la suite de ces émeutes et de la mort de près de 135 Juifs, les Britanniques ont interdit aux Juifs de vivre à Gaza pour étouffer les tensions et apaiser les Arabes.
Certains Juifs sont revenus, cependant, et, en 1946, le kibboutz Kfar Darom a été créé pour empêcher les Britanniques de séparer le Néguev de l’État juif.