W 1890 r. białostoccy Żydzi utworzyli nowy cmentarz, położony około 3 km na północy wschód od centrum miasta, na przedmieściu Bagnówka, przy obecnej ul. Wschodniej. Jednocześnie w tym samym czasie zamknięto użytkowany od XVIII w. cmentarz przy ul. Kalinowskiego.

Cmentarz o powierzchni 12,5 ha był otoczony kamiennym murem, krytym dachówką, z trzema bramami, zgodnie z tradycją umożliwiającymi powrót z pogrzebu inną drogą. Na cmentarzu znajdował się dom przedpogrzebowy oraz budynek grabarza.

Cmentarz służył jako miejsce pochówku dla Żydów z Białegostoku oraz okolicznych miejscowości, m.in. z Supraśla. Pochowano na nim m.in. ofiary pogromu, do jakiego doszło w Białymstoku w 1906 r.

W 1898 r. na cmentarzu spoczął Szmul Mohylewer - rabin i protagonista ruchu syjonistycznego (jego szczątki w 1991 r. przeniesiono do Izraela). W 1919 r. pochowano Naczelnego Rabina Białegostoku Chaima Hersza Helperina. Trzy lata później nad jego grobem wniesiono ohel, ufundowany przez ziomkostwo białostockie z Nowego Jorku.

Na cmentarzu pochowano również m.in. Abrahama Bera Gottlobera - literata, tłumacza i historyka; Awrahama Mosze Galantego - rabina ze Szczuczyna, Jenotana Abelmana - rabina z Choroszczy oraz Szmuela syna Beniamina - rabina z Zabłudowa.

Cmentarz był użytkowany czynnie do 1941 r., kiedy - ze względu na oddalenie od getta - zmarłych zaczęto chować przy ul. Żabiej. Po wojnie na cmentarzu odbywały się pojedyncze pogrzeby, m.in. w 1951 r. pochowano Abrahama Izaka Goldsteina, a w 1952 r. Cywię Halperin.

Obiekt przetrwał wojnę w stosunkowo dobrym stanie. Jego dewastacja rozpoczęła się w okresie późniejszym. W styczniu 1948 r. nieznani sprawcy "w poszukiwaniu złotych zębów" dwukrotnie rozkopali grób, w którym pochowano ofiary pogromu z 1905 r. Skradziono wiele nagrobków oraz pomnik ofiar pogromu białostockiego. Około 2 ha przeznaczono pod budowę osiedla domów jednorodzinnych.

4 i 5 września 1960 r. Białystok wizytował D. Bławat ze Związku Religijnego Wyznania Mojżeszowego w PRL. W swoim sprawozdaniu napisał m.in. o cmentarzu przy ul. Wschodniej: "Cmentarz czynny (...) zajmuje bardzo rozległy teren. Okolony jest murem, który w kilku miejscach jest uszkodzony. Zniszczenia te były dokonywane przez elementy przestępcze w celach kradzieży cennych kamieni nagrobkowych. Sprawcy tych przestępstw były wykrywane przez miejscowe władze MO i przez Sądy Powiatowe osądzone. Cały teren cmentarza jest ogromnie zaniedbany, zarośnięty dzikorostami, wielka ilość pomników jest powalona i nie znajduje się na swoich miejscach, a pozostała część, między innymi wspaniały pomnik nad bratnią mogiłą ofiar Żydów pomordowanych w roku 1906 wymaga konserwacji. Brak jest jakiejkolwiek aleji i ścieżek, a odwiedzający bezwiednie depcze groby zmarłych. Brak jakiejkolwiek ewidencji pochowanych i pomników, co sprzyja kradzieży kamieni nagrobkowych. Ostatnio ustawiono pewnego rodzaju nadzór nad cmentarzem, przez zaangażowanie dozorcy, który wobec ogromu terenu i uszkodzonego muru nie jest w stanie zapobiec dalszym ewentualnym znieważaniom miejsca wiecznego spoczynku tysięcy pochowanych Żydów".

Do 1954 r. cmentarz podlegał Kongregacji Wyznania Mojżeszowego w Białymstoku, a w 1966 r. został oficjalnie przejęty przez Skarb Państwa. 17 lipca 1973 r. Ministerstwo Gospodarki Komunalnej wydało decyzję o jego formalnym zamknięciu.

Po 1980 r. Janina Tyszko, jako przedstawicielka Społecznego Komitet Opieki nad Cmentarzami i Zabytkami Kultury Żydowskiej, organizowała akcje porządkowania cmentarza.

W 1981 r. Monika Krajewska i Jan Jagielski w opracowaniu Uwagi o stanie cmentarzy żydowskich w Polsce, tak opisali cmentarz białostocki: "W gąszczu drzew zrujnowany ohel. Podobno był niedawno pomnik upamiętniający ofiary pogromu z 1905 r. Cmentarz porośnięty gęstymi drzewami i krzakami, częściowo tylko trawą i chwastami. Od strony ul. Wschodniej zniszczona murowana brama i resztki muru, od strony cmentarza katolickiego mur z wyrwami".

W 1987 r. obiekt został wpisany do wojewódzkiego rejestru zabytków nieruchomych (decyzja A-89 z 30.12.1987 r.).

Obecnie cmentarz jest własnością Miasta Białystok. Od lat 90. na cmentarzu odbywają się różne akcje porządkowe i konserwacyjne, prowadzone m.in. z inicjatywy Miasta Białystok, Centrum Edukacji Obywatelskiej Polska - Izrael.

W latach 2014-2015 na zlecenie Muzeum Historii Żydów Polskich POLIN, Fundacja Dokumentacji Cmentarzy Żydowskich wykonała spis 2119 nagrobków, zawierający dane osobowe zmarłych oraz fotografie macew. Dzięki funduszom Gminy Wyznaniowej Żydowskiej w Warszawie w kolejnym etapie Fundacja spisała 957 pozostałych nagrobków. Najstarsze zidentyfikowane macewy upamiętniają Rachel Kameczewską, zmarłą 1 czerwca 1890 r. oraz Izraela Eliezera syna Szmuela ha-Kohena, zmarłego 25 września 1890 roku.

Spisy macew są dostępne na stronach:
https://sztetl.org.pl/pl/miejscowosci/b/397-bialystok/115-pamiec-w-kamieniu/7074-cmentarz-zydowski-w-bialymstoku
http://cemetery.jewish.org.pl/list/c_91