Un nou algoritm promite consum energetic AI mai mic cu 95%

O echipă de ingineri de la compania de tehnologie BitEnergy AI declară că a dezvoltat o metodă care poate reduce consumul energetic al aplicațiilor AI cu 95%. Grupul a publicat un articol în publicația online arXiv, în care descrie noua tehnică.

Pe măsură ce aplicațiile AI au devenit parte din viața de zi cu zi, utilizarea lor a crescut semnificativ, ceea ce a dus la o creștere notabilă a consumului de energie și a costurilor. Modelele mari de limbaj (LLM), precum ChatGPT sau Google Gemini, necesită o putere de calcul semnificativă, ceea ce înseamnă că au nevoie de cantități mari de energie electrică pentru a funcționa.

De exemplu, ChatGPT consumă aproximativ 564 MWh zilnic, suficient pentru a alimenta în jur de 18.000 de locuințe. Pe măsură ce tehnologia avansează și astfel de aplicații devin și mai populare, unii critici sugerează că aplicațiile AI ar putea folosi în curând în jur de 100 TWh anual, comparabil cu operațiunile de minare a Bitcoin-ului.

Prin această inițiativă recentă, echipa de la BitEnergy AI susține că a descoperit o modalitate de a reduce drastic cantitatea de calcul necesară pentru a rula aplicațiile AI, fără a compromite performanța.

Cum funcționează algoritmul

Tehnica este simplă: în loc să folosească reprezentarea numerelor în virgulă mobilă (FPM – floating-point multiplication), metoda se bazează pe adunarea numerelor întregi. Aplicațiile folosesc FPM pentru a gestiona numere extrem de mari sau mici cu o precizie ridicată, însă aceasta este și cea mai mare consumatoare de energie în procesarea datelor AI.

Se susține că testele efectuate până acum au arătat că noua abordare reduce cererea de electricitate cu 95%.

Reacția Nvidia ar putea influența adoptarea noii tehnologii

Un dezavantaj al acestei metode este că necesită hardware diferit față de cel utilizat în prezent. Totuși, echipa de cercetare menționează că noul tip de hardware a fost deja proiectat, construit și testat.

Cu toate acestea, modul în care acest hardware va fi licențiat rămâne neclar – în prezent, Nvidia, producătorul de GPU-uri, domină piața de hardware pentru AI. Modul în care Nvidia va reacționa la această nouă tehnologie ar putea avea un impact major asupra ritmului de adoptare a acesteia, în cazul în care afirmațiile companiei sunt verificate.