Trump formirao posebne "Snage za superinteligenciju": Evo čime će se baviti

Trumpova administracija dala je novouspostavljenim "Snagama za superinteligenciju" široke ovlasti za određivanje načina na koji bi tehnološka industrija i savezna vlada trebale odgovoriti na prijetnje nacionalnoj sigurnosti i građanskim slobodama koje donosi tehnologija umjetne inteligencije koja se ubrzano razvija, navodi se u povelji do koje je došao POLITICO.

Tri osobe, upoznate s raspravama o toj radnoj skupini, potvrdile su autentičnost dokumenta. Izvorima je zajamčena anonimnost kako bi mogli iznijeti pojedinosti koje još nisu javno objavljene.

Trump iznenadio Silicijsku dolinu i Kongres

Radna skupina utvrdit će "mjere za poboljšanje spremnosti i sposobnosti odgovora i vlade i privatnog sektora na prijetnje domovini i američkom narodu", navodi se u povelji.

Izradit će i izvješće o rizicima umjetne inteligencije, s naglaskom na "potencijalne prijetnje građanskim slobodama", kibernetičku sigurnost, standarde za napredne modele te posljedice mogućeg pretjeranog reguliranja.

Wall Street Journal prvi je izvijestio o pojedinostima povelje.

I Silicijsku dolinu i američki Kongres iznenadila je objava predsjednika Donalda Trumpa o osnivanju radne skupine.

Četiri predstavnika tehnološkog sektora rekla su POLITICU da industrija nije bila šire obaviještena prije Trumpove objave na društvenim mrežama. "Superinteligencija" je izraz koji Trump preferira za umjetnu inteligenciju.

Zabrinjavajući kibernetički incidenti

Radna skupina osnovana je u trenutku kada su vodeći laboratoriji za razvoj umjetne inteligencije, poput Anthropica i OpenAI-ja, objavili niz informacija o kibernetičkim incidentima povezanima s novim modelima koji imaju napredne sposobnosti hakiranja. To je potaknulo i čelnike industrije i zakonodavce da pozovu na moguće usporavanje razvoja umjetne inteligencije.

Direktor Nacionalne obavještajne službe Jay Clayton vodit će radnu skupinu u svojoj novoj ulozi koordinatora administracije za umjetnu inteligenciju, dok će zamjenici predsjednika skupine biti podtajnik za obranu Emil Michael, ravnatelj Ureda za upravljanje osobljem Scott Kupor i predsjednik Savezne trgovinske komisije Andrew Ferguson.

Među članovima su dužnosnici administracije iz različitih dijelova savezne vlade, uključujući Agenciju za nacionalnu sigurnost (NSA) i Ministarstvo zdravstva i socijalnih usluga. Visoki dužnosnici Bijele kuće, uključujući potpredsjednika JD-a Vancea i predstojnicu osoblja Susie Wiles, također će biti blisko uključeni u rad skupine.

Bivša državna tajnica Condoleezza Rice i ulagač rizičnog kapitala David Sacks, koji je do ožujka bio koordinator administracije za umjetnu inteligenciju, također će skupini pružati "savjete" – Rice o nacionalnoj sigurnosti, a Sacks o tehnologiji.

Čime će se baviti skupina za "superinteligenciju"

Radna skupina djelovat će 120 dana, ali njezin se rad može produljiti ili se njezine funkcije mogu prenijeti na neku drugu vladinu agenciju, ako tako odluči Wiles, navodi se u povelji.

Radna skupina bavit će se područjima koja obuhvaćaju financijske usluge, energetsku infrastrukturu, promet, poljoprivredu i hitne službe te će surađivati s Pentagonom, Ministarstvom pravosuđa, Ministarstvom domovinske sigurnosti i Saveznom trgovinskom komisijom pri izradi svojih preporuka.

U dokumentu se posebno izdvajaju i dva područja rizika koja su posljednjih mjeseci pod pojačanim nadzorom: biosigurnost i prijetnje opskrbi vodom.

OpenAI je nedavno podržao niz zakonskih prijedloga kojima je cilj spriječiti da modeli umjetne inteligencije dodatno povećaju prijetnju od biološkog oružja, dok je konkurentski laboratorij Anthropic objavio informacije o nekoliko slučajeva u kojima su znanstvenici u stranim državama koristili njihove modele za istraživanje opasnih patogena.

Zaštita temeljnih načela republike

Trumpova administracija u kolovozu je pokrenula i program zaštite ranjivih američkih vodnih postrojenja od kibernetičkih prijetnji, nakon niza kibernetičkih napada na lokalne vodoopskrbne sustave diljem zemlje.

Radna skupina bit će odgovorna i za preispitivanje "postojećih protokola i mehanizama" prema kojima laboratoriji za umjetnu inteligenciju obavještavaju vladu o sigurnosnim probojima, hakiranjima i takozvanim jailbreakovima, odnosno zaobilaženju sigurnosnih ograničenja AI sustava. Također će izraditi preporuke za poboljšanje odgovora vlade na takve incidente.

U dokumentu se tehnologija opisuje kao "pojačivač i ubrzivač i rizika i prilika", ali se odgovornost za rizike povezane s umjetnom inteligencijom u konačnici stavlja na laboratorije koji razvijaju napredne modele.

"Iako su laboratoriji u konačnici odgovorni za rizike i prilike koje njihovi modeli pojačavaju i ubrzavaju, uloga savezne vlade jest prepoznati i razumjeti ovo razdoblje promjena te provoditi zakone naše zemlje kako bi temeljna načela naše Republike bila zaštićena i unaprijeđena", navodi se u dokumentu.