Kralj Charles upozorava na AI, Pentagon ne želi stati: "Ovo je utrka koju ne smijemo izgubiti"

Charles će o budućnosti umjetne inteligencije govoriti na skupu u Dumfries Houseu u škotskom Ayrshireu, u trenutku sve izraženije globalne zabrinutosti zbog brzog napretka te tehnologije.

"Razvoj umjetne inteligencije, i njegova suština i njegova brzina, u jednakoj su mjeri intrigantni i duboko zabrinjavajući", očekuje se da će Charles poručiti u uvodnom govoru, prenosi Politico.

Britanski kralj trebao bi upozoriti da ljudi kojima je stalo do očuvanja ljudskosti i njezine moralne dimenzije od tehnološke industrije očekuju odgovore.

"Oni u našem svijetu koji cijene našu ljudskost i njezinu ključnu moralnu komponentu sa zabrinutošću od vas očekuju uvjeravanja da nećemo izgubiti kontrolu nad vlastitom sudbinom", poručit će Charles.

Upozorit će i da će "odluke donesene u ovom formativnom razdoblju oblikovati svijet koji će naslijediti buduće generacije", pozivajući sudionike da njihov cilj ne bude "samo unaprijediti tehnologiju, nego osigurati da ona čvrsto ostane u službi čovječanstva, zajednice i prirodnog svijeta".

Na skupu bi trebali sudjelovati izvršni direktor Nvidije Jensen Huang, suosnivač Google DeepMinda Demis Hassabis i financijska direktorica OpenAI-ja Sarah Friar. Među pozvanima su i izvršni direktor Scale AI-ja Francis deSouza te visoki predstavnici Anthropica i Coherea.

Očekuje se i dolazak britanskog ministra za umjetnu inteligenciju Kanishke Narayana te Paola Benantija, savjetnika Vatikana, kao i drugih stručnjaka i predstavnika tehnološkog sektora.

U Pentagonu prevladava drukčiji pristup

Iz Buckinghamske palače naveli su da će Charles pozvati sudionike da razmotre kako iskoristiti prednosti umjetne inteligencije uz sigurnost u središtu njezina razvoja te kako izgraditi međunarodnu suradnju i konsenzus kako nijedna država ne bi bila zapostavljena, a budućnost čovječanstva ostala zaštićena.

Dok Charles poziva na oprez, u Pentagonu prevladava drukčiji pristup. Čelnici američkog Ministarstva obrane nastoje što brže uključiti umjetnu inteligenciju u gotovo svaki segment vojske, dok zastupnici u Kongresu pokušavaju utvrditi pravila i sigurnosna ograničenja za njezinu uporabu.

Dužnosnici Pentagona smatraju da bi svako usporavanje razvoja umjetne inteligencije moglo prepustiti prednost američkim suparnicima te odbacuju pozive dijela tehnoloških čelnika i članova Kongresa da se razvoj uspori kako bi se bolje proučile dugoročne posljedice novih sustava.

Takva se rasprava odvija u trenutku kada se SAD suočava sa sve ozbiljnijim sigurnosnim izazovima povezanima s Kinom i Rusijom. Istodobno, ubrzano uvođenje AI-ja u vojne sustave nosi vlastite rizike ako se pritom ne osiguraju odgovarajuće sigurnosne mjere.

"Pobijediti i zadržati prednost u utrci u umjetnoj inteligenciji vjerojatno je jedna od najvažnijih stvari koje Sjedinjene Države moraju učiniti, i iz perspektive vojne i iz perspektive ekonomske sigurnosti", rekao je američki ministar zračnih snaga Troy Meink.

"To je utrka koju SAD ne smije izgubiti", dodao je.

Kritičari, međutim, upozoravaju da bi ubrzano uvođenje napredne umjetne inteligencije u operacije povezane s nacionalnom sigurnošću moglo osjetljive vojne sustave izložiti novim prijetnjama, posebno ako se tijekom njihove nadogradnje istodobno ne uvedu odgovarajući zaštitni mehanizmi.

"Mogućnost da nekontrolirani autonomni agenti upadaju na internetske stranice ili narušavaju rad sustava odnosi se na Pentagon jednako kao i na bilo koju drugu organizaciju", rekao je demokratski senator Richard Blumenthal, član senatskog Odbora za oružane snage.

"Pentagon bi mogao biti vrlo pozitivna snaga u procjeni rizika. No dosad je izbjegavao tu odgovornost", dodao je.

Kongres razmatra uvođenje zaštitnih mjera za vojnu uporabu umjetne inteligencije u sklopu godišnjeg zakona o obrambenoj politici. Predložena ograničenja uključivala bi novi postupak provjere kojim bi se trebalo osigurati da u svim odlukama povezanima s autonomnim sustavima i umjetnom inteligencijom u središtu ostane "ljudska prosudba". Predviđeni su i novi sigurnosni standardi te smjernice za AI agente ugrađene u vojne sustave.

"U budućnosti ćemo toga vidjeti mnogo više", rekao je republikanski senator Mike Rounds, predsjednik pododbora za kibernetičku sigurnost senatskog Odbora za oružane snage, ocijenivši prijedloge prvim korakom prema reguliranju vojne uporabe AI-ja.

Najopasniji smjer

Odredbe bi, međutim, mogle postati zakon tek u prosincu, što je za dio zastupnika presporo s obzirom na brzinu razvoja tehnologije. Čelnik demokratske manjine u Zastupničkom domu Hakeem Jeffries pozvao je Kongres da "odmah" donese nova pravila za razvoj umjetne inteligencije zbog strahova da bi nekontrolirani razvoj te tehnologije mogao imati katastrofalne posljedice za čovječanstvo.

Dužnosnici Pentagona, zajedno s predsjednikom Donaldom Trumpom, odbacuju takva upozorenja i tvrde da će ljudi zadržati kontrolu nad naprednim sustavima.

"Svi koji pretpostavljaju da je nekorištenje umjetne inteligencije najsigurnija opcija zapravo biraju najopasniji smjer kojim možemo krenuti jer naši suparnici već idu u tom smjeru", rekao je Cameron Stanley, čelnik Pentagona za digitalne tehnologije i umjetnu inteligenciju, na nedavnoj konferenciji u Washingtonu.

"Bili smo vrlo jasni: postat ćemo vojna sila kojoj je umjetna inteligencija na prvom mjestu. (...) To znači prihvaćanje određenog rizika, ali ne i prihvaćanje nerazumnih rizika", dodao je.

Pentagon nije odgovorio na zahtjev za dodatnim komentarom.

Sličan pristup podupiru i neki europski saveznici, čije je sigurnosno planiranje također povezano s američkim napretkom na području umjetne inteligencije. Dodatni pritisak stvara opterećenje tradicionalnih zaliha streljiva u Europi i SAD-u, što povećava interes za naprednija tehnološka vojna rješenja.

"Ne vidim mogućnost usporavanja", rekao je Giedrimas Jeglinskas, bivši litavski zastupnik i dužnosnik NATO-a. "Tehnologija je previše važna za gospodarski rast, konkurentnost i nacionalnu sigurnost."

Sličan stav zauzima i dio tehnološke industrije, iako njezini predstavnici istodobno pozivaju na oprez. Sarah Heck iz Anthropica rekla je na Politicovu summitu Decoded da SAD "ne može osiguravati sigurnost s drugog mjesta" te da mora nastaviti razvijati nove modele umjetne inteligencije.

Na istom je skupu demokratski kongresnik Greg Casar, predlagatelj zakona kojim bi se zabranila umjetna superinteligencija, upozorio na proturječnost takvog pristupa. Prema njegovim riječima, cilj zakonodavaca trebao bi biti stvaranje "svijeta u kojem nigdje ne postoje autonomni roboti ubojice", umjesto nastojanja da upravo Amerikanci imaju vojnu prednost u takvoj tehnologiji.

"Ulozi su ovdje veliki", rekao je Casar. "Trebali bismo učiniti ono što je ispravno."