Svjetska stručnjakinja za etiku u AI-u za N1: Izgubit ćemo neke od najboljih aspekata umjetne inteligencije jer je ne reguliramo

Vaše glavno područje stručnosti je umjetna inteligencija i, naravno, ono što radimo s umjetnom inteligencijom, posebno danas. Dopustite da započnem sljedećim pitanjem - bojite li se?

Bojim se da ćemo izgubiti neke od najboljih aspekata umjetne inteligencije jer je ne reguliramo na odgovarajući način u vlastitoj uporabi i u načinu na koji je koriste tvrtke ili vlade. Zato zaista moramo osigurati dobre zaštitne mehanizme kako bismo iz nje izvukli ono najbolje. Meni to zvuči kao zdrav razum, ali mnogi se protive zaštitnim mehanizmima.

Da, posebno ako pogledate različite vlade diljem svijeta. Američka vlada baš i nije sklona regulaciji, a moglo bi se tvrditi da je to djelomično posljedica baš i ne tako malog utjecaja Silicijske doline. No tu su Kina i Sveta Stolica, koja je vrlo sklona regulaciji, rekao bih…

Da, apsolutno. Krenemo li od savezne vlade u SAD-u, imate pravo, ne postoji velika želja za regulacijom na bilo koji način, osim možda u nekim posebno problematičnim slučajevima. Tako je donesen "Take It Down Act", koji se odnosi na "deepfake" sadržaje i pornografiju. No općenito se ne žele u to uplitati, iako se nagađalo o mogućnosti izvršne uredbe koja bi samo tražila od laboratorija da se dobrovoljno podvrgnu sigurnosnim provjerama vlade.

Situacija je vrlo drukčija na razini saveznih država. Zapravo nije važno je li riječ o republikanskoj ili demokratskoj državi, zakonodavne aktivnosti postoje posvuda. Ako ste tvrtka ili pojedinac u SAD-u, situacija je vrlo teška jer morate biti usklađeni s više od četrdeset različitih regulatornih režima. Imate pravo, u Kini su regulirali mnogo toga, ali uglavnom u pogledu odnosa između kompanija i njihovih korisnika, a manje u pogledu onoga što vlasti mogu činiti u vezi sa svojim građanima.

U EU-u Akt o umjetnoj inteligenciji vrlo je zanimljiv jer se mnoge tvrtke žele pridržavati neke regulative. Budući da često nema ničega drugog, mnoge tvrtke kažu: "U redu, slijedit ćemo Akt o umjetnoj inteligenciji EU-a." A onda smo dobili višegodišnju odgodu u vezi s generativnom UI. Mislim da se svi snalaze kako znaju i umiju te da mnogi moraju sami smišljati pravila, što baš i ne pomaže. A onda se, dakako, uključio i Papa, koji govori ono što sam i ja rekla na ovogodišnjoj raspravi New York Timesa u Davosu: moramo pozorno razmotriti što znači biti čovjek, što nas čini ljudima, možda je to činjenica da se brinemo jedni za druge i za planet te činjenica da živimo i umiremo i to razumijemo na instinktivnoj razini. Za razliku od stroja koji u osnovi samo reproducira podatke koje smo mu dali, a sada ih već i sam stvara.

Čest argument kada je riječ o odnosima između Kine, EU-a i SAD-a te mogućnosti globalne regulacije UI-ja jest da to nema smisla. SAD će reći: "Ako nešto reguliramo kod sebe ili u euroatlantskom prostoru, to se neće primjenjivati u Kini, a oni će iza naših leđa raditi što god žele. Ili će netko za koga još ni ne znamo, u Africi ili negdje drugdje, učiniti isto." Dakle, nema smisla globalno regulirati UI. Može li se taj argument održati?

Mislim da se ne može održati, jer mislim da svi zapravo nastoje reći da postoji nešto što bi trebalo učiniti na globalnoj razini. Kada promatramo kategorije odgovorne umjetne inteligencije, zemlje diljem svijeta slažu se oko toga koje bi te kategorije trebale biti, ali imamo različite načine dolaska do rješenja. Jedan od argumenata koji često čujemo iz SAD-a glasi: "Ne možemo regulirati jer će inače Kina biti ispred nas." Ali Kina zapravo regulira, kao što smo upravo rekli. Je li trenutačno moguće postići globalni sporazum? Mislim da nije. Vlade su trenutačno previše polarizirane za takvo što.

Što mislite o argumentima osoba poput Petera Thiela, koji tvrdi da je prevelik fokus na sigurnosti i etici UI-ja luksuz koji bi mogao dovesti do toga da Zapad izgubi tehnološki rat protiv Kine? Da je regulacija luksuz koji si ne možemo priuštiti. Naprotiv, da bismo UI-ju trebali omogućiti da doslovno sama odlučuje kada će otvoriti vatru iz nekog oružja, a kada ne.

Smatram da to zaista nije način na koji bismo trebali pristupati UI-ju. Ako je toliko inteligentna, ili će postati toliko inteligentna kako nam govore ljudi poput Demisa Hassabisa, onda joj moramo pristupati iz perspektive usmjerene na čovjeka. Jer pitanje glasi: služimo li mi njoj ili ona služi nama? Ako mi služimo njoj, to mi se ne čini ni ispravnim ni održivim načinom razmišljanja o tehnologiji budućnosti. Stalno govorimo o utrci s Kinom. No zapravo vidimo da katkad Kina ima najbolji model, a katkad Amerika. Vidimo kako se Claude tvrtke Anthropic, ChatGPT tvrtke OpenAI i Gemini natječu za titulu najboljeg modela, a zatim se pojave kineski modeli koji ih nadmaše. Dakle, svi smo ionako otprilike na istoj razini. Nešto što Kinezi rade vrlo dobro jest primijenjena umjetna inteligencija. Vjerojatno su čak i nešto bolji od SAD-a upravo u primijenjenoj UI.

Kad smo već spomenuli Petera Thiela i Palantir, riječ je o uspješnoj kompaniji koja vrlo uspješno koristi UI za nadzor, prediktivno policijsko djelovanje, vojno ciljanje itd. Sada ulazi na nova tržišta. U UK-u se vodi velika rasprava o tome što učiniti s Palantirom i njegovim aktivnostima u UK-u. Dokazuje li golem uspjeh Palantira i njegov ulazak u UK da je "odgovorna umjetna inteligencija" u korporativnom svijetu zapravo samo PR i tema za razgovor, dok pravi novac zapravo gura cijelu priču?

Pravi novac doista gura cijelu priču, ali upravo svjedočimo dvjema stvarima. Prvo: kompanije počinju shvaćati koliko ih korištenje UI-ja zapravo košta. Nedavno je objavljena priča o jednom financijskom direktoru koji je u prvom tromjesečju potrošio milijardu dolara koristeći UI agente, a agenti troše velike količine tokena. S druge strane, nedavno Bainovo istraživanje među tisuću kompanija pokazalo je da je 40 % njih ostvarilo samo desetpostotni rast dobiti zahvaljujući UI-ju, iako troše znatno više novca. Mislim da se tu već pojavljuje određeni otpor. Dakako, vidimo kompanije koje djeluju u ekonomiji nadzora ili sličnim područjima. To je nešto što bi trebalo zabrinjavati vlade. Ali još više bi trebalo zabrinjavati nas kao građane. Moramo govoriti: "Ne želimo biti pod nadzorom. Ne želimo da svi naši podaci odlaze iz zemlje." Ili što god da se zbiva u konkretnom slučaju. To je pitanje UI pismenosti.

Ako mi kao pojedinci ne vršimo pritisak na vlade, one donose takve odluke i kupuju takve sustave a da ne znaju da se s time možda ne slažemo. Druga stvar jest da najveći teret potencijalnih problema ne snose kompanije koje razvijaju temeljne modele, poput Palantira, nego oni koji te modele koriste: banke, osiguravajuća društva, maloprodajne tvrtke i svi koji kupuju velike jezične modele. Oni vrlo ozbiljno pristupaju tome jer bi upravo oni mogli biti izloženi tužbama.

Kada razgovarate s vladama, ministrima i članovima upravnih odbora, a znam da razgovarate, slušaju li oni ovakve argumente?

Da, apsolutno! I mislim da ih slušaju sve više. Kad je riječ o vladama, sve češće svjedočimo tome da se građani protive nekim mogućim smjerovima razvoja umjetne inteligencije, i to vrlo glasno. Primjerice, diplomanti sveučilišta u Miamiju i Arizoni otvoreno su negodovali kada su im govorili koliko je UI divna. Na razini saveznih država, iako ne na saveznoj razini, vlasti počinju slušati svoje građane. No vlade ne razumiju da je cilj Silicijske doline stvoriti ekonomiju obilja. Ako do toga dođe, bit će potreban velik broj javnih politika kako bi prijelaz u takvo društvo bio uspješan za ljude. Mislim da je upravo to područje na koje bi se vlade trebale usredotočiti. Što se tiče upravnih odbora, neki slušaju. Kompanije koje su već navikle na regulaciju, primjerice banke ili osiguravajuća društva, mnogo su uspješnije u uspostavljanju pravih smjernica za umjetnu inteligenciju jer razumiju što znači biti reguliran. Rekla bih da su takve kompanije ispred drugih u odgovornoj i mudroj upotrebi UI-ja.

Zadržimo se još malo na razini vlada. Biste li rekli da su vlade i dalje dovoljno snažne da nešto poduzmu ili su tehnologija i tehnološki divovi iz Silicijske doline danas moćniji od vlada? Pokušajmo povući povijesnu paralelu. Krajem 19. i početkom 20. stoljeća u SAD-u su postojali famozni "baruni pljačkaši". Theodore Roosevelt uspio je razbiti monopole i nametnuti svoju volju. Imali su novac i utjecaj, ali možda ne u tolikoj mjeri u kojoj današnji tehnološki divovi mogu utjecati na birače. Je li danas teže, možda čak i nemoguće, da se pojavi netko tko bi učinio ono što je Teddy Roosevelt učinio prije stotinu godina? Ili i dalje postoji politička volja, politička moć i politički alati za hvatanje u koštac s tom situacijom?

Mislim da to ovisi o vlasti koju imate. Ova vlast odlučila je ne donositi zakone. A kada ne donosite zakone, zapravo dopuštate svima da rade što žele. Može li vlada regulirati? Da, mislim da može. Prije ove vlasti vidjeli smo drukčiji pristup: korištenje postojećih regulatornih tijela umjesto donošenja novih zakona. Primjerice, Povjerenstvo za jednake mogućnosti zapošljavanja (EEOC) postoji radi zaštite Zakona o građanskim pravima. I jasno je reklo: "Znate, nama je svejedno ako nekom niste dali posao zato što je pristran čovjek ili zato što je pristrana umjetan inteligencija. Ipak ćemo vas tužiti jer imate diskriminatoran sustav." Danas se takav rad više ne provodi kroz EEOC jer imaju potpuno drugačiji fokus. Zato mislim da sve uvelike ovisi o onima koji su na vlasti.

A sada se kratko vratimo na Svetu Stolicu odnosno Papu, kojeg smo već spomenuli. Papa je nedavno objavio dokument, svoju najnoviju encikliku posebno posvećenu umjetnoj inteligenciji. Nadovezuje se na ono što je njegov davni prethodnik papa Lav XIII. napisao prije 130 godina u enciklici Rerum Novarum. Može li to biti prekretnica s obzirom na moralni autoritet koji papa ima?

Rado bih rekla da može, ali mislim da to zapravo daje dodatnu težinu drugim pritiscima kojima već svjedočimo. Vidimo pritiske ljudi koji ne žele dezinformacije i podrivanje demokracije. Vidimo Papin doprinos, zabrinutost za mlade ljude, ne želimo da se zaljubljuju u strojeve ili da zbog toga počine samoubojstvo. Vidimo otpor i prema podatkovnim centrima. Dakle, mislim da je to dio jedne šire cjeline, ali vrlo značajan dio te cjeline. Važno je da papa o tome javno govori. Ljudi pitaju koja je razlika između pape Lava iz vremena industrijske revolucije i ovoga danas. Mislim da je razlika u tome što smo tada automatizirali svoja tijela. Danas automatiziramo svoje umove, a te automatizirane umove potencijalno ugrađujemo i u robote, čime još više automatiziramo tijela. To je za čovječanstvo sasvim drukčija situacija od svega što smo doživjeli tijekom prethodnih revolucija.

Zvuči vrlo distopijski…

Da, zvuči distopijski. Neke stvari kojima svjedočimo u laboratorijima, primjerice kada UI sustavi surađuju kako ne bi bili isključeni i slično, također zvuče distopijski. Ali moramo to staviti u kontekst. Mi ljudi moramo naučiti kako kontrolirati umjetnu inteligenciju i kako joj davati odgovarajuće naredbe. Ona trenutačno nije svjesna i čini nam se da radi divlje i nepredvidive stvari, ali to zapravo proizlazi iz načina na koji je podučavamo.

Pokušajmo završiti u pozitivnijem tonu... U svojoj knjizi "Coexisting with AI" pišete o pozitivnim budućnostima i o tome kako ih oblikovati. Mislite li da je to i dalje moguće?

Da, mislim da je i dalje moguće jer se sada jedna veća skupina ljudi okuplja oko ideje da čovječanstvo mora biti na prvom mjestu. Ako to znači da moramo usporiti s nekim primjenama umjetne inteligencije, onda možda to doista trebamo učiniti. Svakako bih pitala: zašto ne bismo brzo napredovali u korištenju UI-ja za pronalaženje lijekova za rak, srčane bolesti i druge zdravstvene tegobe te za pomoć u proizvodnji hrane? Ali možda trebamo biti oprezniji u vezi s nekim osobnim interakcijama s UI-jem koje idu u lošem smjeru.