Szkołę specjalną w Grajewie zaczęto organizować w sierpniu 1960 roku . Obowiązki kierownika szkoły powierzono Sławomirowi Siemionowi . Miał on przede wszystkim zająć się współpracą z komisą selekcyjną, która kwalifikowała uczniów szkół podstawowych do kształcenia specjalnego. W rezultacie do szkoły specjalnej wybrano dzieci z niepełnosprawnością intelektualną oraz z niepełnosprawnością sprzężoną.

Na potrzeby szkoły zaadaptowano budynek (zabytkowy) po Szkole Podstawowej Nr 2, znajdujący się przy ulicy Ełckiej, w którym dziś mieści się Zespół Szkół Specjalnych.

Pierwszy dzwonek zadzwonił 16 stycznia 1961 roku. Tego dnia naukę rozpoczęło 52 dzieci, które uczyły się w dwóch kompletach klas łączonych - klasa II z III oraz klasa IV z V. Klasy te prowadziło dwóch nauczycieli, stosując głównie metodę ośrodków pracy.

W roku szkolnym 1961/62 w szkole pracowało już 4 nauczycieli, a w czterech oddziałach klasowych uczyło się 86 dzieci. Pierwsi absolwenci opuścili szkolne mury w 1964 roku.

W roku 1982 szkoła została przekształcona w Zespół Szkół Specjalnych w Grajewie na podstawie decyzji Kuratora Oświaty i Wychowania w Łomży . W skład zespołu weszły: Szkoła Podstawowa Nr 3 Specjalna w Grajewie i Szkoła Zawodowa Specjalna w Grajewie.

W 1990 roku ofertę placówki poszerzono o nauczanie dzieci upośledzonych umysłowo w stopniu umiarkowanym i znacznym w tzw. "klasach życia".

W 1998 roku objęto edukacją uczniów z upośledzeniem umysłowym w stopniu głębokim.
W tym samym roku powstała też klasa Przysposabiająca do Pracy. W roku 2004 powołano Szkołę Przysposabiająca do Pracy Zawodowej dla uczniów z upośledzeniem umysłowym w stopniu umiarkowanym i znacznym /na poziomie szkoły ponadgimnazjalnej/.

W roku 2003 utworzono klasę dla dzieci autystycznych, a obecnie funkcjonuje ich już kilka. Jest to dotychczas jedyna tego typu forma kształcenia autystów w naszym powiecie.

Od 2006 prowadzimy zajęcia z zakresu wczesnego wspomagania rozwoju dziecka.

Na przestrzeni lat placówką naszą kolejno zarządzali: Sławomir Siemion, Cyrjak Konopka, Jarosław Konopka. Od roku 2022 dyrektorem  ZSS jest Jarosław Reut.