Społeczność żydowska w Głogowie Małopolskim posiadała dwa miejsca pochówku. Pierwszy cmentarz został założony około 1712 r. poza wałami ówczesnego miasta, przy obecnej ul. Topolowej. Pod koniec XVIII w. jego powierzchnia została poszerzona o grunt zakupiony od strony wschodniej. Początkowo cmentarz otaczało ogrodzenie drewniane, z czasem uzupełnione murem o wysokości ok. 1,4 m. Drewniane ogrodzenie nekropolii uległo zniszczeniu podczas pożaru miasta w 1846 r.

Cmentarz był czynny do 1935 r. Można przyjąć, że poprzez ponad 200 lat funkcjonowania, na cmentarzu pochowano nie mniej niż kilka tysięcy osób. W 1873 r. spoczął tu cadyk Menachem Mendel syn Aszera Jeszai Rubin, wnuk Naftalego Cwi Horowica z Ropczyc, zięć rabina Meira Rotenberga z Opatowa, autor księgi Likutei Maharam. Pochówki odbywały się tu także w czasie drugiej wojny światowej. Pod koniec grudnia 1942 r. na jego terenie pogrzebano trzech nieznanych z nazwiska młodych Żydów, rozstrzelanych przez funkcjonariuszy Schutzpolizei, a w marcu 1943 r. pochowano kolejne cztery ofiary Zagłady, wśród nich rabina Lazara Reimanna.

Jak wynika z listu Bogusława Kotuli do Żydowskiego Instytutu Historycznego w Warszawie, w dn. 24 lipca 1943 r. na cmentarzu naziści rozstrzelali 6 polskich zakładników: Józefa Flaka, Augustyna Irzyńskiego, Tomasza Kubasa, Jana Łabusa, Pawła Salę i Adama Ślęzaka.

Na początku XX w., w związku z przepełnieniem cmentarza przy ul. Topolowej, gmina żydowska w Głogowie stanęła przed koniecznością zorganizowania drugiego miejsca pochówku zmarłych. Nowy cmentarz powstał we wschodniej części miasta, około 100 m na południe od drogi do wsi Borsuk, obecnej ul. Partyzantów. Jego lokalizację zaznaczono na wydanej w 1937 r. mapie Wojskowego Instytutu Geograficznego. Przy wejściu wzniesiono dom przedpogrzebowy. Jak podaje Jan Krawiec w książce Społeczność żydowska w Głogowie Małopolskim , do 1939 r. na cmentarzu pochowano około 120 osób.

Oba cmentarze uległy dewastacji w okresie drugiej wojny światowej oraz w latach późniejszych. Część nagrobków na polecenie władz okupacyjnych wyrwano i wykorzystano do utwardzania ulic, inne zostały użyte przez mieszkańców Głogowa Małopolskiego do m. in. prac budowlanych. W ostatnich latach kilka macew zabezpieczył uprzednio wzmiankowany Jan Krawiec.

W czasach PRL stary cmentarz pełnił funkcję parku miejskiego. W latach 60-tych miejscu zburzonego ohelu cadyków zbudowano warsztat.

W latach 2012-2014 dzięki staraniom Fundacji Ochrony Dziedzictwa Żydowskiego oraz rodziny Rubin - potomków cadyków z Głogowa, teren nekropolii został uporządkowany i ogrodzony. Odbudowano także ohel, na którym umieszczono tablicę upamiętniająca miejscowych cadyków: Menachema Mendla syna Aszera Jeszai Rubin, wnuka Naftalego Cwi Horowica z Ropczyc, zięcia rabina Meira Rotenberga z Opatowa, autora księgi Likutei Maharam, zm. 22 września 1873 r. (30 elul 5633 r.); Jakowa Josefa syna Menachema Mendla Rubina, zięcia Eleazara Hopsteina z Kozienic, zm. w 1873 r.; Altera Mosze Chaima syna Jakowa Josefa Rubina, zięcia Dawida Szapiry z Dynowa, zm. w 1915 r.; Menachema Mendla syna Altera Mosze Chaima Rubina, zamordowanego przez Niemców w dn. 28 kwietnia 1942 r. (11 ijar 5702 r.).