Społeczność żydowska w Pszczynie do drugiej dekady XIX wieku nie posiadała własnej nekropolii. Do tego czasu Żydzi z Pszczyny i okolic grzebani byli na cmentarzu żydowskim w Mikołowie, za co rodziny zmarłego musiały obficie płacić proboszczowi mikołowskiej parafii św. Wojciecha. W 1720 r. zjazd dekanalny w Pszczynie wydał rozporządzenie, które zobowiązywało proboszcza mikołowskiego do porozumiewania się w kwestii pochówku Żydów, z proboszczem parafii, na terenie której zmarły Żyd mieszkał. W 1814 r. w Gliwicach odbyło się zgromadzenie gmin żydowskich Górnego Śląska. W obradach przewodniczył członek Rady Miejskiej w Pszczynie, Abraham Muhr. Uchwalono wówczas memoriał o zjednoczeniu gmin żydowskich w działalności religijnej i udzielaniu sobie wzajemnej pomocy . Zgromadzenie to było przełomowe dla gmin żydowskich, które zmobilizowały się do zakupu działek pod własne cmentarze. Dnia 2 sierpnia 1814 r. trzej pszczyńscy Żydzi zakupili za 240 talarów reńskich dużą działkę o powierzchni 1500 metrów kwadratowych przy ul. Strzeleckiej (wówczas jeszcze poza granicami miasta), którą przeznaczono pod przyszły cmentarz wyznania żydowskiego. Pierwszą pochowaną osobą była Jettel, córka rabina Hirschela Guttmanna, zmarła 10 września 1814 r.

W 1830 r. powołano do życia bractwo pogrzebowe Chewra Kadisza, na czele którego stanęli Wolf Armuth oraz Samuel Bändel. Dbało ono o należytą oprawę ceremonii pogrzebowych, dokonywało rytualnego obmycia ciała i przygotowania go do pochówku. W 1888 r. od strony ulicy zbudowano ceglane ogrodzenie z dwoma stylizowanymi, kutymi furtkami oraz neogotycki dom przedpogrzebowy, według projektu pszczyńskiego architekta i budowniczego Ernsta Betza. Jest to budynek murowany z cegły, na planie prostokąta usytuowany dłuższym bokiem na osi wschód-zachód, jednokondygnacyjny i przykryty czterospadowym dachem zwieńczonym u szczytu iglicą. Jest symetryczny, posiada zamknięte pełnym łukiem drzwi umieszczona na przestrzał na osi budynku. Ponad bramą wjazdową znajduje się otynkowana płycina z hebrajskim napisem: "Ponieważ koniec jest dla męża pokoju". Po jego bokach znajdują się dwie Gwiazdy Dawida. Do domu przedpogrzebowego prowadzi 35-metrowa aleja, po której obu stronach rosną jesiony wyniosłe.

Cmentarz był użytkowany do 1938 r. Ostatnia pochowana osoba to Heinrich Koenigsfeld, zm. 12 sierpnia 1938 r. - jego nagrobek został skradziony pod koniec lat 80. XX wieku. Podczas II wojny światowej cmentarz był nienaruszony i odgrodzony drewnianym parkanem od ulicy. Po zakończeniu wojny nie dokonywano na nim pochówków, mimo iż w Pszczynie mieszkała ponad 200-osobowa grupa Żydów. Na podstawie zarządzenia p.o. ministra gospodarki komunalnej Stanisława Sroki z dnia 24 stycznia 1959 r. cmentarz został oficjalnie zamknięty do celów pochówkowych. W 1972 władze miejskie wydały rozporządzenie stanowiące, że: " Teren nieczynnego cmentarza żydowskiego zostanie przeznaczony (po upływie 40 lat od ostatniego pochowania zwłok) na zieleniec wewnątrz osiedla domków jednorodzinnych" . Plany te nie zostały jednak zrealizowane. Obecny stan cmentarza jest wynikiem braku należytej opieki w okresie powojennym.

Cmentarz żydowski w Pszczynie zajmuje powierzchnię 0,6 hektara i jest podzielony na pięć kwater grzebalnych. Zachowało się na nim ponad 400 nagrobków (ok. 90% wobec stanu przedwojennego). Znajdujące się na nich inskrypcje hebrajskie i niemieckie stanową cenne źródło do poznania części historii Żydów ziemi pszczyńskiej. Język hebrajski jest językiem świętym; jako język inskrypcji przyjął się w IX wieku i od tego czasu przez ponad tysiąc lat był jedynym używanym do zapisywania żydowskich inskrypcji. Do lat trzydziestych XIX językiem inskrypcji nagrobnych na cmentarzu żydowskim w Pszczynie był wyłącznie hebrajski. Pierwsza inskrypcja w języku niemieckim pojawiła się na nagrobku Rosel Gutmann z domu Steiner, zmarłej 14 listopada 1833 r., jednak dzieliła ona swoje miejsce na nagrobku wraz z inskrypcją w języku świętym. Od tego czasu możemy zauważyć popularną tradycję zapisywania inskrypcji w dwóch językach jednocześnie: hebrajskim i niemieckim (gdzie pierwszy był językiem tradycji a drugi językiem ojczystym). Jednak wpływ haskali i coraz większa asymilacja pszczyńskich Żydów doprowadziła do ograniczenia hebrajskiej inskrypcji do podstawowych informacji, co było związane z coraz mniejszą znajomością tego języka wśród tej społeczności. W okresie międzywojennym drastycznie zmniejszono ilość hebrajskiej inskrypcji lub całkowicie z niej zrezygnowano. Było wiele powodów tej sytuacji: całkowita asymilacja i brak znajomości języka wśród społeczności (w tym brak obsadzonego stanowiska rabina gminy żydowskiej, który często pomagał w tworzeniu inskrypcji lub ją poprawiał i zatwierdzał) oraz wzrastające koszty wykucia liter. Pierwszy nagrobek na którym nie wykuto inskrypcji hebrajskiej, należy do Helene Friedländer z domu Milkuschütz, zmarłej w 1872 r.