Svaki odgovor koji vam da ChatGPT košta više nego mislite

Svaka riječ u AI upitu razlaže se u skupine brojeva nazvanih “ID tokeni” i šalje u golema podatkovna središta - neka veća i od nogometnih igrališta - koja se često napajaju iz termoelektrana na ugljen ili prirodni plin. Tamo nizovi velikih računala generiraju odgovore kroz desetke brzih izračuna.

Cijeli taj proces, prema često citiranoj procjeni Instituta za istraživanje električne energije (Electric Power Research Institute), može trošiti i do 10 puta više energije nego obična pretragana Googleu, piše CNN.

Koliko jedan upit AI-ju šteti okolišu?

Kako bi to otkrili, istraživači u Njemačkoj testirali su 14 sustava umjetne inteligencije velikih jezičnih modela (LLM) postavljajući im pitanja otvorenog i višestrukog izbora. Pokazalo se da složenija pitanja proizvode do šest puta više emisija ugljičnog dioksida od pitanja s kratkim i jednostavnim odgovorima.

Osim toga, “pametniji” LLM modeli, s naprednijim sposobnostima zaključivanja, emitirali su do 50 puta više ugljika kako bi odgovorili na ista pitanja, navodi se u studiji.

"Ovo nam pokazuje kompromis između potrošnje energije i točnosti modela", rekao je Maximilian Dauner, doktorand na Visokom učilištu primijenjenih znanosti u Münchenu i prvi autor studije objavljene u časopisu Frontiers in Communication.

Pametniji modeli troše više energije jer imaju desetke milijardi više parametara, odnosno unutarnjih postavki za obradu podataka, nego manji modeli. "Možete to zamisliti kao neuronsku mrežu u mozgu. Što više neuronskih veza, to se više ‘razmišlja’ kako bi se došlo do odgovora", pojašnjava Dauner.

Kako možete smanjiti svoj ugljični otisak?

Složena pitanja troše više energije dijelom i zato što su AI modeli trenirani da daju duga i iscrpna objašnjenja, kaže Dauner. Ako pitate AI da riješi zadatak iz algebre, često će objasniti svaki korak do rješenja.

“AI troši puno energije na pristojnost, pogotovo ako korisnik upotrebljava izraze poput ‘molim’ i ‘hvala’”, objašnjava. “To dodatno produžuje odgovor i povećava energetsku potrošnju.”

Dauner savjetuje da korisnici budu što sažetiji i konkretniji: zatražite odgovor u jednoj ili dvije rečenice i naglasite da ne želite dodatna objašnjenja.

Sasha Luccioni, voditeljica klimatskog odjela u AI kompaniji Hugging Face, dodaje da nisu svi modeli jednako energetski zahtjevni. "Modeli koji su specijalizirani za određene zadatke često su manji, učinkovitiji i jednako dobri u svojoj specifičnoj primjeni."

Za prosječnog srednjoškolca koji traži pomoć s domaćom zadaćom, korištenje moćnih AI alata je poput korištenja nuklearne elektrane za pokretanje kalkulatora. Luccioni preporučuje korištenje jednostavnih alata kao što su online enciklopedije ili obični kalkulatori, gdje god je moguće.

Zašto je teško mjeriti utjecaj AI-ja na okoliš?

Točno utvrditi koliki je stvarni ekološki otisak AI sustava vrlo je teško.

Studija ističe da potrošnja energije može varirati ovisno o blizini korisnika energetskim mrežama, kao i o vrsti hardvera koji se koristi.

Osim toga, mnoge AI kompanije ne objavljuju informacije o potrošnji energije, veličini servera ili tehnikama optimizacije, kaže Shaolei Ren, profesor elektrotehnike i računalnog inženjerstva sa Sveučilišta California u Riversideu, koji proučava i potrošnju vode AI sustava.

"Ne možemo samo reći da AI u prosjeku troši ovoliko energije ili vode - to jednostavno nije precizno. Svaki model treba promatrati zasebno, u kontekstu konkretne zadaće", rekao je Ren.

Jedan prijedlog za veću transparentnost bio bi da AI sustavi objavljuju količinu emisija po pojedinom upitu, sugerira Dauner.

Umjetna inteligencija je posvuda – ali je li potrebna?

"Općenito, kad bi ljudi znali kolika je prosječna ekološka cijena generiranja jednog odgovora, možda bi se češće pitali: 'Je li mi stvarno potrebno pretvoriti se u akcijsku figuricu jer mi je dosadno?' ili 'Moram li zaista tražiti da mi ChatGPT ispriča vic jer nemam što raditi?'", kaže Dauner.

Luccioni dodaje da mnogi korisnici često nemaju izbor jer kompanije sve češće ugrađuju generativne AI alate u aplikacije i sustave, bez obzira na stvarnu potrebu.

"Ne trebamo generativni AI u web pretraživanju. Nitko nije tražio AI chatbotove u aplikacijama za poruke ili društvenim mrežama", kaže. "Ta utrka da se AI ubaci u svaku postojeću tehnologiju doista je frustrirajuća - i ima stvarne posljedice za naš planet."

Zbog manjka transparentnosti, korisnici imaju manje izbora, a pritisak regulatora u SAD-u zasad se ne nazire. Jedina nada leži u učinkovitijem korištenju energije, smatra Ren.

"Unatoč svemu, i dalje sam optimističan. Mnogi softverski inženjeri rade na tome da sustavi budu učinkovitiji", zaključuje. "Druge industrije također troše mnogo energije, ali to nije razlog da zanemarimo utjecaj AI-ja. Na to moramo ozbiljno obratiti pažnju."