Discuția despre consumul de energie al sistemelor de inteligență artificială este importantă și, în același timp, plină de cifre care circulă fără sursă verificabilă. Merită separate lucrurile care se pot afirma de cele care nu.
Ce se poate afirma cu temei
Antrenarea unui model mare consumă energie semnificativă. Este un cost concentrat, plătit o singură dată per model.
Utilizarea consumă mai puțin per cerere, dar se înmulțește. O singură cerere este ieftină energetic. Miliarde de cereri nu mai sunt. Pentru un model folosit la scară, consumul cumulat al utilizării îl poate depăși pe cel al antrenării.
Există o mare variație între modele. Un model mic, specializat, poate consuma cu ordine de mărime mai puțin decât un model generalist mare, pe aceeași sarcină.
Locul contează. Un centru de date alimentat din surse cu emisii reduse are o amprentă foarte diferită de unul alimentat din combustibili fosili, la consum identic.
Energia nu este singura resursă. Răcirea consumă apă, iar producția de echipamente are propria amprentă.
Ce nu se poate afirma cu ușurință
Cifre precise despre consumul total al sectorului, comparații de tipul „o cerere echivalează cu X” sau proiecții pe zece ani sunt, în cel mai bun caz, estimări cu incertitudine mare. Furnizorii publică rareori date detaliate, iar metodologiile diferă atât de mult încât comparațiile directe sunt adesea lipsite de sens.
O cifră impresionantă fără metodologie atașată nu este un argument, indiferent în ce direcție.
Ce poate face concret o organizație
Alege modelul potrivit sarcinii. Folosirea celui mai mare model disponibil pentru o sarcină pe care o rezolvă unul mic este risipă directă — și de bani, și de energie.
Evită recalcularea inutilă. Memorarea rezultatelor pentru cereri identice sau foarte similare reduce consumul fără niciun compromis de calitate.
Limitează contextul la ce este necesar. Trimiterea unui document întreg când sunt suficiente două paragrafe multiplică volumul procesat la fiecare cerere.
Întreabă furnizorul. Locația centrelor de date și sursa de energie sunt întrebări legitime într-un proces de achiziție, iar răspunsul se poate compara între ofertanți.
Măsoară-ți propriul consum. Pentru sistemele rulate local, consumul este măsurabil. Pentru cele prin API, volumul procesat este un indicator indirect util.
Poziția onestă
Consumul este real și merită luat în calcul, ca orice cost. Nu justifică nici respingerea în bloc a tehnologiei, nici ignorarea problemei. Ce justifică este obiceiul de a alege instrumentul potrivit dimensiunii problemei — un principiu bun oricum, independent de mediu.