| Bloomberg Quicktake - What the AI Boom Means for Carbon Emissions, YouTube, 15.03.2023 |
El vídeo de Bloomberg amb què he obert el post d'avui ens parla de la relació entre el boom de la intel·ligència artificial i el de la seva empremta ecològica.
Per trencar amb aquest secretisme l'autor va estimar que el millor era fer-li la pregunta directament a ChatGPT (2):
Com, pel que sigui, la intel·ligència artificial no estava en condicions de poder donar les respostes esperades, Alex de Vries va decidir ocupar-se personalment de trobar les respostes i les va compartir a un article publicat a principis del mes d'octubre (5):
El mateix dia de la publicació de l'article d'Alex de Vries, Delger Erdenesanaa resumia algunes de les seves conclusions a un article publicat al The New York Times (6):
En desembre del 2023, Melissa Heikkilä publicava un article al suplement d'intel·ligència artificial de la MIT Technology Review (9). Presentava els resultats d'un estudi realitzat per investigadors de la startup d'IA Hugging Face i de la Carnegie Mellon University (10) que calculava l'energia necessària per l'ús d'un model d'IA per a la realització de diferents tasques, amb l'objectiu d'ajudar a prendre decisions informades sobre com utilitzar la IA d'una manera més respectuosa amb el planeta.
L'equip va analitzar l'energia consumida per les 10 tasques més populars de la IA, com ara la resposta a preguntes, la generació de text, la classificació d'imatges, la creació de subtítols i la generació d'imatges. Els experiments es van dur a terme amb 88 models diferents. Per a cadascuna de les tasques, com ara la generació de text, l'equip va executar 1.000 indicacions i va mesurar l'energia utilitzada amb una eina que va desenvolupar, anomenada Code Carbon, que mesura l'energia que consumeix un servidor mentre executa un model. L'equip també va calcular l'energia consumida per vuit models generatius, que van ser entrenats per fer diferents tasques.
Per fer ras i curt, l'equip va confirmar que l'ús de grans models generatius per crear publicacions consumia molta més energia que l'ús de models de la IA adaptats a tasques específiques. Per exemple, utilitzar un model generatiu per classificar les crítiques de pel·lícules segons si són positives o negatives consumeix unes 30 vegades més d'energia que utilitzar un model creat específicament per a aquesta tasca. La raó per la qual els models de la IA generativa utilitzen molta més energia és que intenten fer moltes coses alhora, com ara generar, classificar i resumir text, en lloc d'una tasca única, com seria la classificació.
Tant l'article de Melissa Heikkilä com l'estudi de l'equip de Luccini mereixen una lectura pausada per tenir més detalls, i et recomano trobar un moment per llegir-los si el tema t'interessa i tens temps i ganes per fer-ho.
Altrament, deixa'm afegir que l'equip de Luccini espera que el seu treball encoratgi la gent a ser més eco-conscient quan utilitzi la IA generativa i opti per models més especialitzats i menys intensius en consum d'energia. Jo tinc grans dubtes sobre el resultat. Ara bé, també hi ha qui diu que estudis com el de l'equip de Luccini ens ajuden a fer que les empreses siguin més responsables sobre l'ús d'energia i les emissions, car la responsabilitat legal caurà en les empreses que estan creant els models i n'obtenen els beneficis.
Estic segur que, a la imatge de les respostes de l'ordinador Mare del Nostromo, enllà on no arribi la consciència ecològica de les empreses tecnològiques i la dels usuaris, l'accés a la potència de la IA generativa s'acabarà limitant pel comú dels mortals, obrint l'accés del seu potencial només a "oficials científics" de l'estil d'Ash, l'androide del primer film d'Alien (4). Si més no, per raons de seguretat, davant dels riscos potencials de l'ús de l'IA que en puguin fer els ciberdelinqüents.
Recorda d'activar els subtítols del vídeo si tens problemes de comprensió de la llengua anglesa seleccionant la teva llengua de preferència.Tres mesos després de la publicació d'aquest vídeo, Maanvi Singh publicava un article a The Guardian (1) on parlava del secretisme de les empreses tecnològiques sobre la quantitat d'energia i aigua necessàries per entrenar els programes d'intel·ligència artificial.
Per trencar amb aquest secretisme l'autor va estimar que el millor era fer-li la pregunta directament a ChatGPT (2):
- Quanta energia consumeixes?
- Com a model de llenguatge d'IA, no tinc presència física ni consumeixo energia directament. El consum d'energia associat a les meves operacions està relacionat principalment amb els servidors i la infraestructura utilitzats per allotjar i executar el model.
- La meva empremta de carboni és zero. Preguntat per l'energia consumida en la seva creació i entrenament, Google Bard va donar una resposta més "honesta": Aquesta informació no és de domini públic.
| WW Movie Clips - Alien (1979) - Ripley learns the truth from Mother, YouTube, 23.02.2023 |
Com, pel que sigui, la intel·ligència artificial no estava en condicions de poder donar les respostes esperades, Alex de Vries va decidir ocupar-se personalment de trobar les respostes i les va compartir a un article publicat a principis del mes d'octubre (5):
Al llarg del 2022 i el 2023, la intel·ligència artificial (IA) ha estat testimoni d'un període d'expansió ràpida i una aplicació extensa i a gran escala (...) Aquest desenvolupament accelerat genera preocupacions sobre el consum d'electricitat i l'impacte ambiental potencial de la IA i els centres de dades. En els darrers anys, el consum d'electricitat del centre de dades ha representat un 1% relativament estable de l'ús global d'electricitat, excloent la mineria de les criptomonedes. Entre el 2010 i el 2018, el consum global d'electricitat dels centres de dades podria haver augmentat un 6%.
 |
| Source: Nextplatform. Datacenter Becomes Nvidia’s Largest Business |
El mateix dia de la publicació de l'article d'Alex de Vries, Delger Erdenesanaa resumia algunes de les seves conclusions a un article publicat al The New York Times (6):
De Vries va trobar una manera d'estimar el consum d'electricitat mitjançant les vendes previstes de servidors Nvidia A100, el maquinari que utilitzarà el 95% del mercat de la IA. Uns servidors que són unes veritables bèsties energívores. Va començar amb una projecció recent de Nvidia per a la fabricació d'1,5 milions d'aquests servidors fins al 2027, i va multiplicar aquesta xifra pel consum elèctric d'aquests servidors: 6,5 kW pels servidors DGX A100 de Nvidia, i 10,2 kW per als seus servidors DGX H100.Just un apunt final a l'estudi d'Alex de Vries. Com l'autor afirma al seu article, les seves estimacions no tenen compte del fet que bona part de l'electricitat consumida pels processadors dels servidors es transforma en calor als centres de dades. Com hem vist anteriorment en aquest blog, aquestes naus immenses de servidors necessiten quantitats enormes d'energia i aigua per assegurar la seva refrigeració (7) (8).
Basant-se en la hipòtesi que Nvidia tindrà la capacitat industrial per a produir els processadors que equipen aquests servidors, De Vries estima que l'any 2027 els servidors d'IA podrien consumir entre 85 i 134 TWh anuals. Això és equivalent al consum de l'Argentina, els Països Baixos o Suècia en un any, i representa al voltant del 0,5% del consum mundial actual d'electricitat.
Depenent de si els centres de dades obtenen la seva energia de combustibles fòssils o de recursos renovables, l'electricitat necessària per fer funcionar la IA podria doncs augmentar les emissions de carboni.
En qualsevol cas, el secretisme dels editors del programari de la intel·ligència artificial té els dies comptats, car totes les grans empreses que fan negocis a Califòrnia, incloses les empreses intensives en IA com OpenAI i Google, hauran de ser molt més transparents sobre els riscos i els impactes ecològics que poden provocar, en virtut de dues lleis de divulgació de l'empremta climàtica que es van aprovar el passat mes d'octubre. Aquest és també el cas de la Unió Europea, que el 2021 ja va emetre una normativa similar que ordenava a les empreses revelar les seves emissions de carboni.
 |
En desembre del 2023, Melissa Heikkilä publicava un article al suplement d'intel·ligència artificial de la MIT Technology Review (9). Presentava els resultats d'un estudi realitzat per investigadors de la startup d'IA Hugging Face i de la Carnegie Mellon University (10) que calculava l'energia necessària per l'ús d'un model d'IA per a la realització de diferents tasques, amb l'objectiu d'ajudar a prendre decisions informades sobre com utilitzar la IA d'una manera més respectuosa amb el planeta.
L'equip va analitzar l'energia consumida per les 10 tasques més populars de la IA, com ara la resposta a preguntes, la generació de text, la classificació d'imatges, la creació de subtítols i la generació d'imatges. Els experiments es van dur a terme amb 88 models diferents. Per a cadascuna de les tasques, com ara la generació de text, l'equip va executar 1.000 indicacions i va mesurar l'energia utilitzada amb una eina que va desenvolupar, anomenada Code Carbon, que mesura l'energia que consumeix un servidor mentre executa un model. L'equip també va calcular l'energia consumida per vuit models generatius, que van ser entrenats per fer diferents tasques.
Per fer ras i curt, l'equip va confirmar que l'ús de grans models generatius per crear publicacions consumia molta més energia que l'ús de models de la IA adaptats a tasques específiques. Per exemple, utilitzar un model generatiu per classificar les crítiques de pel·lícules segons si són positives o negatives consumeix unes 30 vegades més d'energia que utilitzar un model creat específicament per a aquesta tasca. La raó per la qual els models de la IA generativa utilitzen molta més energia és que intenten fer moltes coses alhora, com ara generar, classificar i resumir text, en lloc d'una tasca única, com seria la classificació.
Tant l'article de Melissa Heikkilä com l'estudi de l'equip de Luccini mereixen una lectura pausada per tenir més detalls, i et recomano trobar un moment per llegir-los si el tema t'interessa i tens temps i ganes per fer-ho.
Altrament, deixa'm afegir que l'equip de Luccini espera que el seu treball encoratgi la gent a ser més eco-conscient quan utilitzi la IA generativa i opti per models més especialitzats i menys intensius en consum d'energia. Jo tinc grans dubtes sobre el resultat. Ara bé, també hi ha qui diu que estudis com el de l'equip de Luccini ens ajuden a fer que les empreses siguin més responsables sobre l'ús d'energia i les emissions, car la responsabilitat legal caurà en les empreses que estan creant els models i n'obtenen els beneficis.
Estic segur que, a la imatge de les respostes de l'ordinador Mare del Nostromo, enllà on no arribi la consciència ecològica de les empreses tecnològiques i la dels usuaris, l'accés a la potència de la IA generativa s'acabarà limitant pel comú dels mortals, obrint l'accés del seu potencial només a "oficials científics" de l'estil d'Ash, l'androide del primer film d'Alien (4). Si més no, per raons de seguretat, davant dels riscos potencials de l'ús de l'IA que en puguin fer els ciberdelinqüents.
 |
| La IA està jugant un paper més important en la ciberseguretat, però els dolents poden beneficiar-se més Artificial intelligence is playing a bigger role in cybersecurity, but the bad guys may benefit the most |
- Maanvi Singh: As the AI industry booms, what toll will it take on the environment? The Guardian, 08.06.2023
- Veure Intel·ligència artificial - ostres i captura de CO₂ (1/3), publicat en aquest blog el 13.12.2023
- Veure Intel·ligència artificial - ostres i captura de CO₂ (3/3), publicat en aquest blog el 14.12.2023
- Wikipedia: Alien [en] [fr] [es] [ca]
- Alex de Vries: The growing energy footprint of artificial intelligence, Joule, Volume 7, ISSUE 10, P2191-2194, October 18, 2023. DOI:https://doi.org/10.1016/j.joule.2023.09.004
- Delger Erdenesanaa: A.I. Could Soon Need as Much Electricity as an Entire Country, The New York Times, 10.10.2023
- Veure Big Data Centers and Electricity Network, publicat en aquest blog el 26.10.2021
- Veure Data Centers hit by Energy Prices, publicat en aquest blog el 18.09.2022
- Melissa Heikkilä: Making an image with generative AI uses as much energy as charging your phone, MIT Technology Review, 01.12.2023
- Alexandra Sasha Luccioni et al: Power Hungry Processing: Watts Driving the Cost of AI Deployment?, arXiv:2311.16863v1 [cs.LG] 28 Nov 2023
No comments:
Post a Comment
You are welcome to leave a comment on any subject that raises your interest.