Forskere viser vejen: AI-modeller behøver ikke at sluge SÅ meget strøm
Udviklingen af AI-modeller er en overset klimasynder. Forskere fra Københavns Universitet har lavet en opskriftsbog over AI-modeller, der kan yde det samme, men bruger meget mindre energi. Energiforbruget og klimaaftrykket bør være et fast parameter, når man designer og træner AI-modeller, argumenterer forskerne.
![Foto: Getty Images](/data/images/public/13561218/13797331/3246e5c2-95e9-4c40-8cc3-b75b0e544bdd-w_720.jpg)
At det koster kolossale mængder energi, når vi googler, taler med Siri, spørger ChatGPT om noget eller på andre måder bruger AI, er efterhånden blevet almen viden. Et studie anslår, at AI-servere i 2027 vil have et lige så stort elforbrug som Argentina eller Sverige. Og en enkelt forespørgsel til ChatGPT er anslået til i gennemsnit at sluge lige så meget energi som 40 opladninger af en mobiltelefon. Men på forskningsfeltet og i branchen har man stadig ikke fokus på at udvikle AI-modeller, som er energieffektive og derfor har et mindre CO2e-aftryk, påpeger forskere fra Københavns Universitet.
“Udviklerne har i dag et snævert fokus på at bygge AI-modeller, der er effektive i form af, hvor præcist et resultat, de kan opnå. Det svarer til at sige, at en bil er effektiv, fordi den får dig hurtigt frem, men ignorerer den mængde brændstof, den bruger. Og det har resulteret i AI-modeller, som ofte er ineffektive i form af energiforbrug,” siger adjunkt Raghavendra Selvan fra Datalogisk Institut, som forsker i mulighederne for at sænke CO2e-aftrykket fra AI.
Men det nye studie, som han og datalog-studerende Pedram Bakhtiarifard er to af forfatterne bag, viser, at man sagtens kan spare masser af CO2 uden at gå på kompromis med AI-modellens præcision. Det kræver, at man har klimaomkostninger for øje allerede i AI-modellernes design- og træningsfase.
”Hvis man fra start sammensætter en model, der er energieffektiv, mindsker du både CO2e-aftrykket i alle faser af modellens ’livscyklus’. Det gælder både i træningen af den, som er en særlig energitung proces, der ofte tager uger eller måneder, og i anvendelsen af den,” siger Raghavendra Selvan.
Opskriftsbog til branchen
I studiet har forskerne beregnet, hvor meget energi, det kræver at træne over 400.000 AI-modeller af typen convolutional neural networks – dog uden faktisk at træne alle modellerne. Convolutional neural networks bruges bl.a. til at analysere medicinske billeder med, til sprogoversættelse og til genkendelse af objekter og ansigter – en funktion, du måske genkender fra kamera-app’en på din egen smartphone.
På baggrund af beregningerne præsenterer forskerne en samling af AI-modeller, som bruger mindre energi på at løse en given opgave, men som yder cirka det samme. Studiet viser, at man enten ved at vælge andre slags modeller eller justere på modellerne kan spare 70-80% energi i trænings- og implementeringsfasen og kun gå 1% eller mindre ned i ydeevne. Og det er ifølge forskerne et konservativt estimat.
”Man kan se vores resultater som en opskriftsbog, som AI-fagkyndige kan slå op i. Opskriftsbogen fortæller ikke bare, hvor godt de forskellige algoritmer yder, men også hvor energieffektive de er. Og at man ved at skifte en ingrediens ud med en anden i opbygningen af modellen, ofte kan opnå samme resultat. Så nu kan fagfolk vælge den model, de ønsker ud fra både ydeevne og energiforbrug og uden at skulle træne hver enkelt model først,” siger Pedram Bakhtiarifard og fortsætter:
”Ofte træner man nemlig mange modeller, før man finder den, man synes er mest egnet til at løse en bestemt opgave. Det gør udviklingen af AI ekstra energitung. Derfor ville det være mere klimavenligt, hvis man vælger den rigtige model i første hug og samtidig vælger en model, der ikke sluger alt for meget strøm i træningsfasen.”
Forskerne understreger, at på specifikke felter som selvkørende biler eller visse medicinske områder kan modellens præcision dog være afgørende for sikkerheden, og her er det vigtigt ikke at gå på kompromis med ydeevnen. Men dette bør ikke afholde fra at gå efter høj energieffektivitet i andre domæner.
“AI har et fantastisk potentiale. Men skal vi sikre en bæredygtig og ansvarlig AI-udvikling, bør vi have en mere holistisk tilgang, der ikke kun har ydeevne for øje, men også klimapåvirkning. Og det kan vi sagtens finde en bedre balance i, viser vi her. Når vi udvikler AI-modeller til forskellige opgaver, bør det derfor være et grundkriterium også at kigge på, hvor energieffektive de er – ligesom det er standard at gøre i mange andre brancher,” slutter Raghavendra Selvan.
Opskriftsbogen, som forskerne har sat sammen i dette studie, er et open-source-datasæt, som andre forskere kan bruge. Informationen om alle de 423.000 AI-modeller er offentliggjort på Github og kan tilgåes ved hjælp af simple Python scripts.
![null](https://via.ritzau.dk/data/images/public/13561218/13797331/8937b3b8-66f5-4802-b074-201b91e95c1d-w_720.jpg)
[BOKS:] SVARER TIL INDUSTRIENS ENERGIFORBRUG I RANDERS KOMMUNE
Forskerne har estimeret hvor meget energi, det kræver at træne 429.000 af den undertype af AI-modeller, der hedder convolutional neural networks. De bruges bl.a. til at analysere medicinske billeder, til sprogoversættelse og til genkendelse af objekter.
Estimatet lyder, at alene træningen af de 429.000 neurale netværk, som studiet har kigget på, koster 263.000 kWh. Det er mere energi, end hvad den samlede industri i Randers Kommune forbruger på et år. Og det ville tage én computer cirka 100 år at udføre træningen. Forskerne har ikke trænet alle modellerne selv, men estimeret deres strømforbrug ved hjælp af en anden AI-model og har således sparet 99% af den energi, som træningen ville have krævet.
[BOKS:] HVORFOR HAR AI ET HØJT CO2-AFTRYK?
Træningen af AI-modeller bruger meget energi og udleder derfor en del CO2. Det skyldes de intensive beregninger, der udføres i træningen, som ofte kører på kraftige computere. Dette gælder især for store modeller som for eksempel sprogmodellen bag ChatGPT. AI-opgaver behandles ofte på datacentre, som kræver betydelige mængder strøm til at holde computerne i gang og køle dem ned.
[BOKS:] OM STUDIET
- Den videnskabelige artikel om studiet er optaget på konferencen International Conference on Acoustics, Speech and Signal Processing (ICASSP-2024).
- Forfatterne bag artiklen er Pedram Bakhtiarifard, Christian Igel og Raghavendra Selvan fra Datalogisk Institut på Københavns Universitet.
Nøgleord
Kontakter
Raghavendra Selvan
Adjunkt
Datalogisk Institut
Københavns Universitet
raghav@di.ku.dk
31 87 30 52
Pedram Bakhtiarifard
KA-studerende
Datalogisk Institut
Københavns Universitet
pba@di.ku.dk
60 21 99 10
Maria Hornbek
Journalist
Det Natur- og Biovidenskabelige Fakultet
Københavns Universitet
maho@science.ku.dk
22 95 42 83
Billeder
![Hver prik er en neural netværksmodel med energiforbrug på den vandrette akse og ydeevne på den lodrette. Oftest udvælges modeller i dag ud fra ydeevnen uden at tage højde for energiforbruget, hvilket resulterer i modeller i den røde ring. Dette arbejde giver AI-fagfolk mulighed for at vælge modeller fra den grønne ring, som afbalancerer ydeevne og energiforbrug](/data/images/public/13561218/13797331/8937b3b8-66f5-4802-b074-201b91e95c1d-w_240.jpg)
![Foto: Getty Images](/data/images/public/13561218/13797331/3246e5c2-95e9-4c40-8cc3-b75b0e544bdd-w_240.jpg)
Links
Om Det Natur- og Biovidenskabelige Fakultet
Det Natur- og Biovidenskabelige Fakultet på Københavns Universitet – SCIENCE – er landets største naturvidenskabelige forsknings- og uddannelsesinstitution.
Fakultetets væsentligste opgave er at bidrage til løsning af de store udfordringer, som vi står overfor i en verden under hastig forandring med øget pres på bl.a. naturressourcer og markante klimaforandringer - både nationalt og globalt.
Følg pressemeddelelser fra Københavns Universitet - Det Natur- og Biovidenskabelige Fakultet
Skriv dig op her, og modtag pressemeddelelser på e-mail. Indtast din e-mail, klik på abonner, og følg instruktionerne i den udsendte e-mail.
Flere pressemeddelelser fra Københavns Universitet - Det Natur- og Biovidenskabelige Fakultet
Fungus gnat entombed in a 40-million-year-old piece of amber is a rare gem30.8.2024 06:00:00 CEST | Pressemeddelelse
A Danish amber collector’s find upon a wild North Sea shore in the 1960’s has proved to be of great and surprising significance. After having thoroughly examining the roughly 40-million-year-old piece of amber, University of Copenhagen researchers have discovered it to contain the first fossil of a predatory fungus gnat belonging to a rare genus. The research contributes new knowledge about the distribution of the gnat species and about biodiversity across space and time.
Myggeart opdaget i 40 millioner år gammelt rav er en sjælden perle30.8.2024 06:00:00 CEST | Pressemeddelelse
En Vestjysk ravsamler fandt i 1960’erne et unikt myggefossil uden at vide det. Nu har forskere fra Københavns Universitet undersøgt det ca. 40 millioner år gamle rav, som indeholder det første fossil af en rovsvampemyg som tilhører en sjælden slægt. Forskningen bidrager med ny viden om myggeartens udbredelse og fortidens biodiversitet.
Næsten erklæret uddød: Yderst sjælden bi genopdaget efter 50 år26.8.2024 07:00:00 CEST | Pressemeddelelse
Et forskerhold fra Københavns Universitet har genopdaget den udryddelsestruede overdrevsvejbi i Jægerspris på Nordsjælland. Bien er sidst set i Danmark i 1973 og ville om få år være erklæret nationalt uddød. Fundet peger på, at græssende kvæg og heste hele året rundt gavner de vilde bier.
Historisk stor bevilling skal give Danmark verdens bedste naturvidenskabelige undervisere22.8.2024 07:00:00 CEST | Pressemeddelelse
Med forskning i international topklasse og 125 millioner kroner i ryggen fra Novo Nordisk Fonden skal Københavns Universitet sammen med Aarhus og Syddansk Universitet gøre os klogere på, hvordan man leverer den bedste naturvidenskabelige undervisning på universiteterne. Satsningen er den største enkeltstående satsning på globalt plan og bringer Danmark i front på et historisk underprioriteret område.
Widespread practice among athletes harms both performance and health15.7.2024 10:27:00 CEST | Press release
Drastically cutting back on caloric intake to lose weight ahead of competition is commonplace among athletes. However, this type of 'dieting' doesn’t just diminish performances, it can also compromise their immune systems. These are the findings of a new study from the University of Copenhagen.
I vores nyhedsrum kan du læse alle vores pressemeddelelser, tilgå materiale i form af billeder og dokumenter samt finde vores kontaktoplysninger.
Besøg vores nyhedsrum