Pierwsza wzmianka o nim pojawiła się w roku 1455. Jedwabne było w owym czasie wsią, powstałą w wyniku akcji osadniczej księcia mazowieckiego Janusza I Starszego (ok. 1346-1429). Jej założycielem był najprawdopodobniej podsędek wiski Jan Bylica ze Ślubowa w ziemi zakroczymskiej. Jego staraniem powstał tu w 1417 roku pierwszy drewniany kościół p.w. Nawiedzenia NMP, św. Jakuba i Wszystkich Świętych. Wieś do 1680 roku należała do rodziny Jedwabińskich, a po śmierci ostatniego z nich przeszła w ręce rodu Kraszewskich.
W roku 1736 właścicielem wsi został stolnik łomżyński Antoni Rostkowski. Z jego inicjatywy, w 1736 roku król August III Sas (1696-1733) nadał dla Jedwabnego magdeburskie prawa miejskie i prawo na odbywanie cotygodniowych targów w niedzielę oraz pięciu jarmarków w roku. W tym okresie Jedwabne posiadało wybudowany w latach 1737-1738 drewniany kościół z dwuwieżową fasadą, oraz synagogę wybudowaną około 1770 roku. W 1777 roku nowym właścicielem Jedwabnego został Stanisław Rembieliński, sekretarz gabinetowy króla Stanisława Augusta Poniatowskiego (1732-1798), chorąży i poseł ziemi wiskiej. Pod koniec XVIII wieku powstały w Jedwabnem fabryki sukna. W połowie XIX wieku w mieście działało 17 warsztatów tkackich, a pod względem wartości produkcji Jedwabne zajmowało w Królestwie Polskim 11 miejsce. Zakłady te podupadły po powstaniu styczniowym.
W okresie I wojny światowej okolice miasta były miejscem bardzo zaciekłych walk pozycyjnych, pozostałością których są niemieckie cmentarze wojskowe w Jedwabnem i w Orlikowie.
W maju 1918 roku właścicielami dóbr zostali Helena i Henryk Prusowie. W kwietniu 1936 roku część nieruchomości dóbr majątku Jedwabne przeniesiona została na córkę i zięcia Heleny Prus, Irenę i Ferdynanda Hartwigów.
Tragiczne dla miasteczka okazały się lata II wojny światowej. 2 września 1939 roku miasto zajęły wojska niemieckie, jednak ostatecznie zostało ono zaanektowane przez Związek Radziecki w końcu miesiąca. Działalność rozpoczęły wówczas polskie organizacje podziemne, a oddział partyzancki stacjonujący na uroczysku Kobielne uległ rozbiciu przez Rosjan. Sowiecka okupacja dotknęła wielu mieszkańców, którzy doznali licznych represji ze strony NKWD. Wielu z nich zostało zesłanych do łagrów Syberii, Workuty i Kazachstanu, co dziś upamiętniają tablice w miejscowym kościele, pomnik w centrum miasta oraz liczne epitafia na grobach na cmentarzu położonym na skraju miasta. Ówczesny jedwabieński probosz ks. Ryszard Marian Szumowski został aresztowany przez NKWD i skazany na śmierć w Mińsku w styczniu 1941 roku. Niestety, spora część ludności miasteczka i okolic, głównie żydowskiej, aktywnie kolaborowała z okupantem i wyrządziła wiele krzywdy swoim polskim sąsiadom. O tej karcie dziejów Jedwabnego wie niewielu. Znacznie większy rozgłos zyskały wydarzenia, które rozegrały się tu w lipcu 1941 roku już po zajęciu Jedwabnego przez Niemców. Z ich inspiracji i za ich przyzwoleniem doszło tu do mordu Żydów dokonanego przez miejscowych Polaków. Propaganda nazistowska, jako pretekst wykorzystywała zbrodnie popełnione na tych terenach przez Rosjan i kolaborujących z nimi Żydów, co trafiło tu na podatny grunt. Oczywiście, ofiarą pogromu padli w większości niewinni żydowscy mieszkańcy miasteczka w liczbie około 340. Większość (około 300) spośród ofiar została spalona żywcem w stodole. Po wojnie aresztowano i skazano dziesięciu uczestników zbrodni. W 60. rocznicę pogromu odsłonięto pomnik pomordowanych. Wydarzenia te stały się głośne dzięki książce Jana Tomasza Grossa „Sąsiedzi”, w której opisał on zbrodnię, aczkolwiek kilkakrotnie zawyżył liczbę ofiar i nie zatroszczył się o zgodne z prawdą historyczną przedstawienie tła jedwabieńskiego pogromu.
