Nie wiadomo, kiedy pierwsi Żydzi przybyli do Jedwabnego. Julius Baker i Mosze Tzinowitz na łamach "Księgi Pamięci Jedwabnego" podają, że: "kiedy Jedwabne uzyskało prawa miejskie w 1736 roku, wielu Żydów przeniosło się do miasta z Tykocina. Jednak z innych źródeł wiemy, że już w 1664 roku kilka żydowskich rodzin wyjechało do Jedwabnego. Osiedlili się tu zapewne ze względu na cotygodniowe targi”. Według "The Encyclopedia of Jewish Life before and during the Holocaust" istotny rozwój społeczności żydowskiej w Jedwabnem przypada na koniec XVIII wieku. W 1808 roku w miejscowości żyło 325 wyznawców judaizmu, którzy stanowili 68% wszystkich mieszkańców. Oprócz handlu, jedwabieńscy Żydzi zajmowali się między innymi krawiectwem oraz wyrobem miodów i innych napojów alkoholowych.
W ciągu XIX wieku liczba Żydów w Jedwabnem radykalnie wzrosła - do 1.941 w 1897 roku. Pod koniec XIX wieku aż 77% mieszkańców Jedwabnego było pochodzenia żydowskiego. W wyniku emigracji zarobkowej do Ameryki oraz wydalenia Żydów z Jedwabnego przez Rosjan podczas I wojny światowej, liczba żydowskich mieszkańców miasta drastycznie spadła. Spis powszechny z 1921 roku odnotował w Jedwabnem już tylko 757 Żydów.
10 lipca 1941 roku w Jedwabnem miał miejsce pogrom, podczas którego życie straciło według różnych szacunków od 350 do 1600 Żydów. Część ofiar została spalona żywcem w stodole. Zbrodnia ta nie została ostatecznie wyjaśniona. Pogrom przeżyło jedynie 100 Żydów, których zgromadzono w getcie na terenie miasta. Przebywali oni w nim do 2 listopada 1942 roku, kiedy to zostali wywiezieni do obozu zbiorczego w Zambrowie, a następnie do obozu zagłady w Treblince.
Pochodzący z XIX wieku cmentarz żydowski w Jedwabnem znajduje się tuż obok miejsca, w którym w dniu 10 lipca 1941 roku dokonano pogromu na jedwabieńskich Żydach. Wiadomo, że przed wojną teren nekropolii był ogrodzony niewysokim parkanem, a bramę wieńczyły tablice z 10 przykazaniami. Obecnie od strony drogi cmentarz jest ogrodzony murem z potężnych bloków skalnych. Pozostałe granice wyznacza zniszczona siatka.
