Alusta asti Ilveksen lajivalikoimaan on kuulunut jalkapallo. Yhtenä väkevänä tekijänä jalkapallon esiinmarsiille oli Yhteyneitten Paperitehtaitten tuki. Yhtyneet aloitti jo kolmekymmenluvulla tehdaspaikkakuntien väliset jalkapallo-ottelut, mikä lisäsi kiinnostusta entisestään. Vuonna 1935 Ilves voitti Hämeen piirin mestaruuden ja uusi mestaruuden uudessa Keski-Suomen piirissä vuosina 1938 - 39.

Sodan jälkeen mestaruus napattiin heti vuonna 1946, kun ratkaisevassa ottelussa Ilves kepitti Jyväskylän Palloilijat Allan Salosen kahdella osumalla lukemin 2 - 1. Tuon piirinmestaruuden jälkeen menestys jäi kuitenkin vähäiseksi ja Ilveksen oli aloitettava uuden nousun etsiminen käynnistämällä junioritoimintaa.

Tarmokas työ tuotti tulosta 1960-luvun alkupuoliskolla, jolloin Ilves nousi ekonomi Juuso R. M. Waldenin johdolla ensin maakuntasarjaan ja sitten vuonna 1962 mestaruussarjan kynnykselle suomisarjaan. Vuonna 1965 Ilves raapi jo mestaruussarjan portteja sijoittumalla suomisarjan pohjoislohkossa kakkoseksi. Lähimpänä nousua koskelaiset olivat vuonna 1968, jollloin syyskierroksen alkaessa Ilves johti lohkoaan. Kuopion Elo runttasi kuitenkin syksyllä ohi ja nousi mestaruussarjaan kolmen pisteen erolla. Seuraavana vuonna nousu oli vieläkin lähempänä, kun Ilves sijoittui läntisessä lohkossa kakkoseksi Tampereen Pallo-Veikkojen jälkeen. Nyt eroa oli vaivaiset kaksi pistettä.

1970-luvulle siirtyi ahdistunut ilveslauma, joka putosikin sarjaporrasta alemmaksi kakkoseen. Sen jälkeen Ilveksen edustusjoukkue onkin seilannut hissiliikettä kakkosen ja kolmosen välillä. 1980-luvun lopulla Ilveksen ahdinko syveni ja joukkue putosi nelosdivisioonaan. Yhdistyminen JämPan kanssa toi hieman potkua toimintaan ja joukkue nousikin kauden 1989 päätteeksi vielä kerran kakkoseen. Pohjoislohkoon sijoitettu Ilves oli kuitenkin lohkon pisteautomaatti ja putosi ranskalaisen visiitin jälkeen takaisin kolmosdivisionaan. 2000-luvulla Ilveksen jalkapallomiehistö on vakiinnuttanut paikkansa kolmosdivisioonassa, joka nykyisin pelataan alueellisena Keski-Suomen lohkona.