Alhojärven koulun perustamispäätös tehtiin jo vuonna 1901 ja ensimmäinen koulurakennus valmistui Alhojärvelle vuonna 1907. Koulun urakoi puuseppä Kaarlo Sievänen, joka rakensi myös Arvajan koulun. Koulu toimii puurakennuksessa vuoteen 1959, jolloin nykyinen uudisrakennus valmistui tilanahtautta helpottamaan.

Alhojärven koulun uudisrakennusosa edustaa tyypillistä 1950-luvun koulurakentamista, jossa opetustilat on jaettu kahteen siipiosaan. Sotien jälkeisille suurille ikäluokille rakennettiin toiminnallisesti jakautuneita koulurakennuksia, joiden malli ja tilojen sijoittelu olivat ajan pedagogisia ajatuksia vastaavat. Tiilirunkoinen, vaaleaksi rapattu koulurakennus punaisine tiilikattoineen sijaitsee keskeisellä paikalla Alhojärven kylämiljöössä, maakunnallisesti arvokkaalla Alhojärven maisema-alueella.

Koulurakennus on kaksikerroksinen ja harjattoinen. Rakennusmassoiltaan koulu on jaettu kolmeen portaittain toisiinsa liittyvään osaan, jotka sijaitsevat loivassa rinnemaastossa. Alhojärven kylällä on sijainnut myös vanhempi, puinen koulurakennus joka poistui käytöstä tämän uuden ja suuremman koulun valmistumisen myötä.