Pierwsze rodziny żydowskie osiedliły się w Ostródzie w XVIII wieku. Początkowo gmina była niewielka, lecz w połowie XIX wieku liczyła już ponad 100 osób, a w końcu stulecia - gdy była najliczniejsza - ponad 220 osób. Do najznaczniejszych rodzin żydowskich w Ostródzie należeli Samulonowie, którzy handlując porcelaną i zajmując się sukiennictwem dorobili się znacznego majątku i znacznej renomy wśród kupców. W okresie międzywojennym społeczność żydowska w Ostródzie stale zmniejszała się, by w roku 1937 osiągnąć 75 osób. W okresie międzywojennym w mieście działały organizacje żydowskie: Związek Rzeszy Żydowskich Żołnierzy Frontowych, Stowarzyszenie Żydowskiej Historii i Literatury i Ostródzkie Niemiecko-Żydowskie Towarzystwo Miłośników Wędrowania. Zamieszkujący Ostródę Żydzi zajmowali się głownie handlem, część z nich utrzymywała się z rzemiosła. Niektórzy Żydzi brali czynny udział w życiu miasta - pełnili funkcje radnych i zasiadali w magistracie. Oczywiście - tylko do czasu objęcia władzy przez NSDAP. Później zostali oni odsunięci od życia publicznego, a w mieście często dochodziło do bojkotu żydowskich sklepów i innych aktów wymierzonych przeciwko Żydom. W roku 1939 gmina żydowska w Ostródzie została rozwiązana.
Cmentarz żydowski w Ostródzie został założony już w 1735 roku. Nie istniała wówczas jeszcze synagoga, którą zbudowano dopiero w 1893 roku. Był to duży murowany budynek w stylu mauretańskim, architektura którego była wzorowana na synagodze bydgoskiej. W listopadzie roku 1938, w czasie akcji "Kristallnacht" synagoga została zniszczona, a cmentarz został zaorany. W czasie II wojmy światowej położony na tzw. Polskiej Górce cmentarz, leżący w sąsiedztwie cmentarza chrześcijańskiego został niemal doszczętnie zniszczony przez Niemców. Do dalszej dewastacji doszło w latach 50.XX wieku. Do dziś, na powierzchni około 0,2 ha zachowały się jedynie dwa nagrobki i fragmenty wielu porozbijanych macew.
