A település a honfoglalás után keletkezett. Első írott említése 1281-ből való, neve Solcha, Ol-Solcha, Ernye bán fia István birtokának része volt. A XV. században a Bánfalvy Bárius család tulajdonába került. Az 1526-os mohácsi csatavesztés, majd az ország három részre szakadása után Zsolca nem hódoltsági terület ugyan, de annak a szélére esett, 1572-től kettős adózó. A falu e korban többször cserélt gazdát. 1605-től Bocskai Istváné, 1608-tól a töröké, 1648-tól a magyar királyé. 1668-ban a Bárius család magva szakadtával Zsolca Lipót királyra szállt, aki azt Vay Ábrahám bárónak és feleségének Ibrányi Annának ajándékozta.
1703-ban, a Rákóczi szabadságharc kitörésekor több alsózsolcai jobbágy állt a fejedelem zászlaja alá. A község földesura báró Vay László részt vett a küzdelmekben. Ez idő alatt a falu ismételten csaknem elnéptelenedett, azonban élni akarását bizonyítva újratelepült.
A XIX. sz. elején dühöngő országos kolerajárvány e települést is elérte. A Vay család az egyik kastélyát a falu lakói részére kórháznak rendezte be. Az 1848/49-es szabadságharcban is részt vettek a zsolcai férfiak. A község határában zajlott le 1849. július 25-én a zsolcai csata, melyben Gózon Lajos honvéd alezredes csapata a Sajón átgázolva megtámadta és megsemmisítette az oroszok egyik ütegét.
Az önkényuralom korában a falu földterülete 7 földbirtokos és 426 törpebirtokos tulajdonában volt. A XIX. sz. utolsó harmadában és a XX. sz. első felében a falu határának egy részén létrejött egy tőkés mezőgazdasági vállalkozás, amit a 3 Munk testvér; István, András, Bertalan valósított meg.
A két világháború között a településen több egylet, kör, testület és szervezet működött. Baksa Lajos kántortanító nagyon korán megszervezte és évtizedeken át vezette a Hitelszövetkezetet. Működött a Levente Egyesület, a Gazdakör, az Ipartestület, az Önkéntes Tűzoltó Egyesület. A református egyház létrehozta a Kálvin Szövetséget és Szabó András kántortanító vezetésével színvonalas egyházi férfikórust működtetett.
A második világháború után a lakosság nagyobb része ipari munkás lett. Kisebb része 1960-tól a helyi Új Élet Mezőgazdasági Termelőszövetkezetben dolgozott, majd e tsz a környékbeliekkel fuzionált. A rendszerváltozás után a tagok döntő többsége visszakapta a földtulajdonát. Jelenleg a falu határában többnyire magángazdálkodás folyik.
A település 1960-tól dinamikus ipari fejlődésnek indult.
Alsózsolca határában hatalmas mennyiségű kavics és homok található. Ennek kibányászására és feldolgozására telepítették ide az üzemeket és gyárakat a Kavicsbánya vállalatot, az Észak-magyarországi Betonelemgyártó Vállalat Alsózsolcai Épületelemgyárát, valamint a Házgyárat. Ezek az üzemek és gyárak évtizedeken át munkások ezreinek, főként alsózsolcaiaknak és a közeli falvak lakóinak biztosítottak rendes megélhetést.
A rendszerváltás óta az üzemek privatizációja is megtörtént. A Házgyár működése megszűnt, helyén létrejött a Csavar- és Húzottárú Részvénytársaság. Az épületelemgyárat átszervezték. Profilja részlegesen megváltozott, ma már StrongRocla Kft. néven kisebb kapacitással, lényegesen kevesebb dolgozóval ugyan, de folyamatosan működik. A KÖKA Kavicsbánya Kft létrejötte óta folyamatosan termel. Évtizedekig Alsózsolcán működött az Észak-magyarországi Anyagellátó és Készletező Vállalat Alsózsolcai Telepe, amely a régió építőiparának vasanyag árú szükségletét készletezte, valamint az ERDÉRT Vállalat Alsózsolcai Telepe. Ez utóbbi a régió fűrészelt fa áru szükségletét tárolta és forgalmazta. A rendszerváltozás után ezek működése megszűnt.
Ugyancsak megszűnt az Észak-magyarországi Vízügyi Igazgatóság Alsózsolcai Betonelemgyártó Üzeme. Ezt privatizálták, azóta a területen kavicsbánya is működik.