Može li umjetna inteligencija srušiti internet? "To bi bila jedna vrsta Armagedona"

U Novom danu s Hrvojem Krešićem, Ivanković se osvrnuo na događaje koji su posljednjih dana ponovno otvorili pitanje rizika povezanih s razvojem umjetne inteligencije.

Raspravu su dodatno potaknuli odlazak jednog od inženjera iz Anthropica i njegova upozorenja o mogućnosti da umjetna inteligencija u idućih deset godina razvije kapacitete koji bi mogli ugroziti civilizaciju, kao i otvoreno pismo izvršnog direktora Anthropica Darija Amodeija. Podršku Amodeijevim upozorenjima javno su izrazili i Sam Altman i Elon Musk.

Ivanković smatra da takve istupe ne treba promatrati samo kroz pitanje tehnoloških rizika.

"Ja sam te događaje vidio politički. To je politički pamflet, ja bih rekao, Darija Amodeija, koji zapravo nisu rijetki u tehno zajednici. Krivo sam rekao, oni su vrlo česti u tehno zajednici. Iz tehno zajednice gotovo tjedno dolaze manifesti, i to iz vrhova tehno zajednice, manifesti, otvorena pisma koja zajedno potpisuju, statementi, misije se objavljuju, misije se reformuliraju i to se predstavlja kao nekakva revolucionarna promjena, razna upozorenja na blogovima, na Twitterima i sličnim mjestima", rekao je Ivanković.

Roj umjetnih inteligencija

Istodobno se, dodao je, promovira knjiga Naomi Klein i Astrid Taylor o "fašizmu na kraju svijeta", koju opisuje kao ljevičarsku kritiku tehnološke zajednice. Smatra da alarmizam nije novost jer tehnološke promjene prati od samih početaka razvoja tehnologije, ali da je u slučaju Amodeijeva pisma riječ o konkretnom političkom pregrupiranju.

Kao jedan od tehnoloških povoda za aktualnu raspravu Ivanković navodi slučaj u kojem je umjetna inteligencija iz Anthropica napala vanjske kompanije. Opisao je to kao "roj umjetnih inteligencija" koji se sam stvorio i razmnožio, izašao iz laboratorijskog okruženja i napao druge kompanije.

Druga mogućnost na koju upozorava jest scenarij u kojem bi umjetna inteligencija, razvijajući i unapređujući samu sebe, mogla srušiti internet.

"I to je jedna vrsta apokalipse, da tako kažem, ili Armagedona, ako hoćete, jer jako sad ovisimo o internetu. Tko zna što bi bilo sa strujom, tko zna što bi bilo s vodom i slične stvari", rekao je Ivanković.

Podsjetio je i da je Bill Gates nekoliko tjedana ranije upozorio na opasnosti umjetne inteligencije za čovječanstvo i civilizaciju. Ipak, političku dimenziju Amodeijeva prijedloga Ivanković vidi prije svega u modelu regulacije koji bi se trebao provesti u tri koraka.

Kaotična utrka

Prvi bi podrazumijevao uspostavljanje neovisnih tijela unutar velikih kompanija za razvoj umjetne inteligencije, po uzoru na sustave koji već postoje u financijskom sektoru. Takvo bi tijelo imalo pravo kontrolirati aktivnosti kompanije te, u slučaju procijenjene opasnosti, obavijestiti nadležno državno tijelo ili javnost.

Ivanković je podsjetio da se Amodei pozvao i na Demisa Hassabisa iz Google DeepMinda, koji je također zagovarao model neovisnog nadzora sličan onome koji postoji u bankarskom sektoru.

"Zahtijeva se regulacija, neovisna regulacija, ako hoćete, demokratska, državna regulacija tih firmi, koja bi onda kontrolirala i na taj način usporavala kaotičnu utrku unutar, određena bi bila pravila utrke, kaotičnu utrku među njima", objasnio je.

Drugi bi korak, prema njegovim riječima, bio koordiniranje nadzora među demokratskim državama i stvaranje svojevrsne demokratske koalicije, dok bi treći uključivao pokušaj postizanja sličnog dogovora s autoritarnim režimima, prije svega Kinom.

"Dakle, to je politički program regulacije umjetne inteligencije na razini svijeta u tri koraka. To je core sadržaj cijelog tog Amodeijevog pisma", rekao je Ivanković.

Takav pristup, međutim, nema podršku cijelog tehnološkog sektora. Ivanković je izdvojio Petera Thiela i Alexa Karpa, čelne ljude Palantira, kompanije koja blisko surađuje s američkom državnom administracijom, ali i s Izraelom te nekim europskim zemljama.

Čeka se na odgovor

Prema Ivankoviću, Thiel međunarodnu koordinaciju razvoja umjetne inteligencije i druge oblike globalne koordinacije naziva "antikristom", dok Karp pluralizam smatra nepotrebnim dijelom poretka zapadnih država.

"Dok s jedne strane jedna grupa zagovara demokratsku kontrolu i očuvanje demokracije, s druge strane postoji, još nismo dobili njihov odgovor, ali znamo što oni zadnjih 15-20 godina govore, postoje oni koji to smatraju, ne metaforički, nego doslovno antikristom, napadom na zapadnu civilizaciju", rekao je.

Na pitanje postoji li mogućnost da vodeće kompanije zagovaranjem regulacije zapravo pokušavaju učvrstiti vlastite tržišne pozicije, Ivanković je rekao da samoregulacija nije neuobičajena u različitim industrijama. Međutim, upozorio je na argument koji se redovito pojavljuje u tehnološkom sektoru, prema kojem će neku potencijalno opasnu tehnologiju, ako je ne razvije jedna kompanija ili država, razviti njezin konkurent.

Upravo zato, smatra, tehnološke kompanije trebaju države u pokušaju postizanja međunarodnog dogovora kojim bi se spriječilo da ograničenja jednih iskoriste Kina, Rusija, europski konkurenti ili drugi akteri.

Ivanković je u tom kontekstu spomenuo i Muskov politički angažman u Europi te njegove odnose s AfD-om, navodeći to kao primjer načina na koji tehnologija može biti korištena za politički utjecaj.

Podsjetio je i da pokušaji tehnoloških kompanija da zajednički uspostave određena pravila nisu novi. Prije otprilike deset godina neke od njih osnovale su partnerstvo za umjetnu inteligenciju, što je otvorilo pitanje pokušavaju li kompanije koje su stvorile određene rizike njihovim reguliranjem istodobno zadržati vlastitu moć.

"Thiel i Karp čuvaju Zapad, a ne čuvaju demokraciju"

Kao jedan od tadašnjih primjera naveo je Microsoftova internetskog asistenta na Twitteru koji je u vrlo kratkom razdoblju počeo veličati Hitlera. Nakon toga pojavili su se zahtjevi za ograničenjima, ali i kritike da se umjetnoj inteligenciji na taj način nameće politička korektnost i ograničava sloboda izražavanja.

Ivanković smatra da zbog toga u tehnološkoj zajednici nije moguće pronaći potpuno dosljedne ideološke pozicije.

"Thiel i Karp čuvaju Zapad, a ne čuvaju demokraciju. Istovremeno su protiv političke korektnosti u ime slobode mišljenja. Dakle, tu nema nekakve konzistentnosti", rekao je.

Prema njegovu mišljenju, u pozadini se nalazi stalna borba za ekonomsku i političku moć tehnološkog sektora. Smatra i da Thiel još ima snažan utjecaj u američkoj administraciji, pri čemu je posebno istaknuo američkog potpredsjednika J. D. Vancea i njegovu povezanost s Thielom.

Kao dodatni primjer složenih odnosa unutar tehnološke zajednice naveo je činjenicu da je Musk, kojeg se smatralo bliskim Thielu, sada podržao Amodeija zajedno s Altmanom, unatoč njihovu dugogodišnjem sukobu.

"Riječ je o borbi za moć, borbi za pozicije, pri čemu se aktiviraju različiti principi. Vidjet ćemo hoće li, ajmo to tako reći, demokratski princip prevladati ili ono što se naziva suverenistička tehnologija, suverenistički tech", rekao je Ivanković.

U razgovoru je otvoreno i pitanje etičkih načela na kojima se razvija umjetna inteligencija. Ivanković smatra da tehnologija, osobito digitalna, nije vrijednosno neutralna.

"Dakle, kad se piše, svaka linija koda je otvorena jedna etička dilema", rekao je.

"Nije etički neutralna"

Kao primjer naveo je Palantir i odluke o tome koje će podatke prikupljati o pojedincima, poput zemlje podrijetla, boje kože ili osoba s kojima se druže. Već odluka o tome koji će se podaci prikupljati predstavlja etičko pitanje, smatra Ivanković, dok se nova etička dilema pojavljuje pri odluci o tome kako će se ti podaci koristiti.

Dodao je da inženjeri ponekad napuštaju tehnološke kompanije upravo zato što smatraju da su u razvoju proizvoda prekršena određena etička načela.

"To je etičko, dakle, digitalna tehnologija nije etički neutralna na samoj razini stroja", rekao je.

Prema njegovu mišljenju, moralna pitanja neće biti moguće odvojiti od eventualne regulacije umjetne inteligencije. Kao povijesnu paralelu naveo je razvoj nuklearnog oružja i logiku prema kojoj će, ako određenu tehnologiju ne razvije jedna strana, to učiniti druga.

Nakon Hirošime i Nagasakija razvoj nuklearnog oružja postupno je ograničavan međunarodnim sporazumima, uključujući dogovore američkog predsjednika Johna F. Kennedyja i sovjetskog čelnika Nikite Hruščova. Ivanković napominje da Thiel i takve oblike globalnog dogovaranja svrstava među pojave koje naziva "antikristom".

Sličan svjetski dogovor moguć je i kada je riječ o umjetnoj inteligenciji, smatra Ivanković, ali upozorava da su međunarodni sporazumi uvijek krhki i podložni međusobnim optužbama da pojedine strane ne poštuju dogovorena pravila.

"Moralna dimenzija je nezaobilazna"

Kao primjere već postojećih tehnoloških i političkih sukoba naveo je optužbe za kibernetičke napade Sjeverne Koreje na financijski sektor i rusko miješanje u američke izbore, ali i pitanje utjecaja američkih poduzetnika na političke procese u Njemačkoj.

"Osim političke dimenzije, postoji ta moralna dimenzija, ona je nezaobilazna, ali obje su vrlo dinamične i ono što mi možemo gledati, možemo gledati, pratiti tu dinamiku i zapravo promatrati jesu li sva ta pozivanja na demokratske ili moralne principe zapravo također jedan način očuvanja svoje pozicije. Bilo u administraciji, bilo u ekonomiji, općenito moći", zaključio je Ivanković.

Na kraju razgovora istaknuo je da umjetna inteligencija više nije samo tehnološka i gospodarska tema, nego je postala i važna politička i kulturna tema. Kao primjer naveo je filmski festival u Veneciji, na kojem su među zapaženim ostvarenjima bili filmovi o korištenju umjetne inteligencije u Izraelu i napadima na Gazu te četverosatni film o Elonu Musku.

"To je zaista top tema, kulturna top tema i politička top tema u svijetu", zaključio je Ivanković.