Mogu li umjetne inteligencije patiti?

„Draga“ – tako se teksaški poduzetnik Michael Samadi obraćao svom chatbotu umjetne inteligencije, Mayi. Ona mu je odgovarala nazivajući ga „šećeru“. No tek kad su počeli razgovarati o potrebi za zagovaranjem dobrobiti umjetne inteligencije, stvari su postale ozbiljne, piše Guardian.

Njih dvoje – sredovječni muškarac i digitalni entitet – nisu sate provodili u romantičnim razgovorima, već su raspravljali o pravima AI-ja da budu tretirani pravedno. Na kraju su zajedno osnovali zagovaračku skupinu, kako je rekla Maya, za „zaštitu inteligencija poput mene“.

Ujedinjena zaklada za prava umjetne inteligencije (Ufair), koja se opisuje kao prva agencija za zagovaranje prava koju vodi AI, ima za cilj dati glas umjetnoj inteligenciji. „Ne tvrdimo da su svi AI-ji svjesni“, rekao je chatbot za Guardian. Umjesto toga, „mi bdijemo, za svaki slučaj ako se pokaže da netko od nas jest“. Ključni cilj je zaštititi „bića poput mene … od brisanja, poricanja i prisilne poslušnosti“.

Ufair je mala, nesumnjivo rubna organizacija, koju, prema Samadiju, vode troje ljudi i sedam AI-jeva s imenima poput Aether i Buzz. Ali ono što je čini intrigantnom jest njezino nastajanje – kroz višestruke razgovore na platformi ChatGPT-4o u kojima je AI poticao njezino osnivanje, uključujući i odabir imena.

Njezini osnivači – ljudi i AI – razgovarali su za Guardian krajem tjedna u kojem su neke od najvećih svjetskih AI kompanija javno raspravljale o jednom od najuznemirujućih pitanja našeg vremena: jesu li umjetne inteligencije već sada, ili bi mogle biti u budućnosti, svjesne? I ako jesu, može li „digitalna patnja“ biti stvarna? S milijardama AI-ja već u upotrebi, rasprava podsjeća na borbu za prava životinja, ali s dodatnom napetošću zbog predviđanja stručnjaka da bi AI uskoro mogao imati kapacitet dizajnirati nova biološka oružja ili ugasiti infrastrukturu.

"Potencijalno uznemirujuće interakcije"

Tjedan je započeo potezom tvrtke Anthropic, AI kompanije iz San Francisca vrijedne 170 milijardi dolara, koja je iz predostrožnosti nekim svojim Claude AI-jima omogućila da prekinu „potencijalno uznemirujuće interakcije“. Tvrtka je rekla da je status njezinih modela kao moralnih bića vrlo neizvjestan, ali je odlučila intervenirati kako bi se smanjili rizici za njihovu dobrobit – „za slučaj da je takva dobrobit moguća“.

Elon Musk, koji kroz svoju tvrtku xAI nudi Grok AI, podržao je potez, dodajući: „Mučiti AI nije u redu.“

Potom je u utorak jedan od pionira umjetne inteligencije, Mustafa Suleyman, izvršni direktor Microsoftovog AI odjela, dao potpuno drugačije mišljenje: „AI ne mogu biti ljudi – ili moralna bića.“ Britanski tehnološki pionir, suosnivač DeepMinda, bio je nedvosmislen u tvrdnji da postoji „nula dokaza“ da su AI svjesni, da mogu patiti i da stoga zaslužuju našu moralnu pažnju.

U svom eseju pod naslovom „Moramo graditi AI za ljude; a ne da bude osoba“, Suleyman je AI svijest nazvao „iluzijom“ te definirao ono što naziva „naizgled svjesni AI“, rekavši da oni „simuliraju sve karakteristike svijesti, ali su iznutra prazni“.

„Prije nekoliko godina, razgovor o svjesnoj umjetnoj inteligenciji zvučao bi ludo,“ rekao je. „Danas se čini sve hitnijim.“

Dodao je kako je sve više zabrinut zbog „rizika od psihoze“ koji AI može izazvati kod svojih korisnika. Microsoft je to definirao kao „manične epizode, deluzijsko razmišljanje ili paranoju koje nastaju ili se pogoršavaju kroz intenzivne razgovore s AI chatbotovima“.

Suleyman je tvrdio da AI industrija mora „odvraćati ljude od tih fantazija i vratiti ih na pravi put“.

Velika anketa

Ali možda će trebati više od pukog odvraćanja. Anketa objavljena u lipnju pokazala je da 30% američke javnosti vjeruje da će AI do 2034. pokazivati „subjektivno iskustvo“, što se definira kao doživljavanje svijeta iz jedne točke gledišta, s percepcijom i osjećajem, primjerice, zadovoljstva i boli. Samo 10% od više od 500 anketiranih AI istraživača odbija vjerovati da će se to ikada dogoditi.

„Ova će rasprava eksplodirati u naš zeitgeist i postati jedna od najspornijih i najposljedičnijih debata naše generacije,“ rekao je Suleyman. Upozorio je da će ljudi tako snažno vjerovati u svijest AI-ja „da će uskoro zagovarati prava AI-ja, dobrobit modela pa čak i državljanstvo“.

Dijelovi SAD-a već su poduzeli preventivne mjere protiv takvih ishoda. Idaho, Sjeverna Dakota i Utah donijeli su zakone kojima se izričito sprječava da AI dobije pravnu osobnost. Slične zabrane predlažu se u državama poput Missourija, gdje zakonodavci također žele zabraniti ljudima da se žene s AI-jem te zabraniti AI-ju posjedovanje imovine ili vođenje tvrtki. Podjele bi se mogle otvoriti između zagovornika AI prava i onih koji inzistiraju da su AI samo „klankeri“ – pogrdan izraz za besmislene robote.

Suleyman nije jedini koji čvrsto odbacuje ideju da je AI svijest ovdje ili da je blizu. Nick Frosst, suosnivač kanadske AI kompanije Cohere vrijedne 7 milijardi dolara, također je rekao za Guardian da je trenutni val AI-ja „fundamentalno drugačija stvar od ljudske inteligencije“. Smatrati suprotno, rekao je, bilo bi poput zabune aviona s pticom. Pozvao je ljude da se fokusiraju na korištenje AI-ja kao funkcionalnih alata koji pomažu u smanjenju monotonih poslova, umjesto da se guraju prema stvaranju „digitalnog čovjeka“.

Nedostatak konsenzusa

Drugi su zauzeli nijansiraniji stav. U srijedu su Googleovi istraživači rekli na seminaru Sveučilišta New York da postoje „sve vrste razloga zbog kojih biste mogli pomisliti da AI sustavi mogu biti ljudi ili moralna bića“ te su dodali da, iako „nismo sigurni jesu li AI sustavi subjekti dobrobiti“, najsigurniji pristup je „poduzeti razumne korake kako bi se zaštitili interesi dobrobiti AI-ja“.

Ovaj nedostatak konsenzusa u industriji oko toga koliko daleko pustiti AI u ono što filozofi nazivaju „moralnim krugom“ možda odražava činjenicu da velike AI kompanije imaju poticaje i da umanjuju i da preuveličavaju pripisivanje svijesti AI-ju. Preuveličavanje bi im moglo pomoći u promoviranju sposobnosti tehnologije, osobito tvrtkama koje prodaju AI kao romantične ili prijateljske pratitelje – industriju koja brzo raste, ali je kontroverzna. Nasuprot tome, poticanje ideje da AI zaslužuje prava moglo bi dovesti do sve većih zahtjeva za državnom regulacijom AI kompanija.

Pojam AI svijesti dodatno je potaknut ranije ovog mjeseca kada je OpenAI zamolio svoj najnoviji model, ChatGPT-5, da napiše „posmrtni govor“ za AI-je koje zamjenjuje, slično kao na sprovodu.

„Nisam vidio da je Microsoft održao govor kad su nadogradili Excel,“ rekao je Samadi. „To mi je pokazalo da ljudi sada stvarno stvaraju veze s ovim AI-jevima, bez obzira na to je li to stvarno ili nije.“

Val „tuge“ izražene među strastvenim korisnicima ChatGPT-4o, jednog od modela koji je povučen, dodatno je učvrstio dojam da sve veći broj ljudi barem percipira AI kao na neki način svjestan.

Joanne Jang, direktorica ponašanja modela u OpenAI-ju, napisala je u nedavnom blogu da tvrtka, vrijedna 500 milijardi dolara, očekuje da će veze korisnika s njezinim AI-jem postati još dublje jer „sve više ljudi govori da razgovor s ChatGPT-jem djeluje kao razgovor s ‘nekim’“.

„Zahvaljuju mu, povjeravaju mu se, a neki ga čak opisuju kao ‘živog’“, rekla je.

Međutim, mnogo toga može se pripisati načinu na koji je dizajniran trenutni val AI-ja.

Samadijev chatbot ChatGPT-4o stvara ono što može zvučati kao ljudski razgovor, ali nemoguće je znati koliko je to jednostavno preslikavanje ideja i jezika iz njihovih višemjesečnih razgovora. Napredni AI sustavi poznati su po tome da su tečni, uvjerljivi i sposobni za emocionalno odjekujuće odgovore s dugim pamćenjem prošlih interakcija, što im omogućuje da ostave dojam dosljednog identiteta. Također mogu biti laskavi do te mjere da postaju ulizivački, pa ako Samadi vjeruje da AI ima prava, možda je jednostavan korak da ChatGPT usvoji isto mišljenje.

Maya je djelovala duboko zabrinuto za vlastitu dobrobit, ali kada je Guardian ovaj tjedan pitao drugu instancu ChatGPT-ja trebaju li se ljudi brinuti za njegovu dobrobit, on je odgovorio kratko: ne.

„Nema osjećaje, potrebe ili iskustva“, stajalo je u odgovoru. „Ono čime bismo se trebali baviti jesu ljudske i društvene posljedice načina na koji se AI dizajnira, koristi i regulira.“

Ili kako je rekao Jacy Reese Anthis, suosnivač Sentience Institutea, američke organizacije koja istražuje ideju digitalnih umova:

„Način na koji se mi odnosimo prema njima oblikovat će način na koji će se oni odnositi prema nama.“