Kreator ChatGPT-ja nudi plaću od pola milijuna dolara za "obranu čovječanstva od AI-ja"

U onome što bi se moglo opisati kao gotovo nemoguć posao, „voditelj pripravnosti“ (head of preparedness) u OpenAI-ju bit će izravno odgovoran za obranu od rizika koje sve moćniji sustavi umjetne inteligencije predstavljaju za mentalno zdravlje ljudi, kibernetičku sigurnost i biološko oružje.

I to prije nego što se izabrani kandidat mora početi brinuti o mogućnosti da bi se umjetne inteligencije uskoro mogle same trenirati, usred strahova nekih stručnjaka da bi se mogle „okrenuti protiv nas“, piše The Guardian.

„Ovo će biti stresan posao i gotovo odmah ćete biti bačeni u duboko more“, rekao je Sam Altman, glavni izvršni direktor organizacije sa sjedištem u San Franciscu, kada je pokrenuo potragu za osobom koja će popuniti „kritičnu ulogu“ i „pomoći svijetu“.

Izabrani kandidat bit će zadužen za procjenu i ublažavanje novih prijetnji te za „praćenje i pripremu za granične sposobnosti koje stvaraju nove rizike ozbiljne štete“. Neki prethodni rukovoditelji na toj poziciji zadržali su se na njoj tek kratko vrijeme.

"Ako u ovom trenutku niste barem malo uplašeni, onda ne obraćate pažnju"

Natječaj dolazi u trenutku sve glasnijih upozorenja iz same AI industrije o rizicima koje nosi sve sposobnija tehnologija. U ponedjeljak je Mustafa Suleyman, izvršni direktor Microsoft AI-ja, u emisiji Today na BBC Radio 4 rekao: „Iskreno mislim da, ako u ovom trenutku niste barem malo uplašeni, onda ne obraćate pažnju.“

Demis Hassabis, dobitnik Nobelove nagrade i suosnivač Google DeepMinda, ovog je mjeseca upozorio na rizike koji uključuju mogućnost da umjetna inteligencija „izleti iz tračnica na način koji šteti čovječanstvu“.

Usred otpora Bijele kuće Donalda Trumpa, regulacija umjetne inteligencije na nacionalnoj i međunarodnoj razini gotovo da i ne postoji. Yoshua Bengio, računalni znanstvenik poznat kao jedan od „kumova umjetne inteligencije“, nedavno je rekao: „Sendvič ima više regulacije nego umjetna inteligencija.“ Posljedica toga je da se AI tvrtke uglavnom same reguliraju.

Altman je na platformi X, prilikom objave natječaja, napisao: „Imamo snažne temelje za mjerenje rastućih sposobnosti, ali ulazimo u svijet u kojem nam treba nijansiranije razumijevanje i mjerenje načina na koje se te sposobnosti mogu zloupotrijebiti te kako možemo ograničiti negativne posljedice – u našim proizvodima i u svijetu – na način koji nam svima omogućuje uživanje u ogromnim koristima. Ta su pitanja teška i postoji vrlo malo presedana.“

Jedan je korisnik sarkastično odgovorio: „Zvuči prilično opušteno, je li uključen godišnji odmor?“

Ono što je uključeno jest i neodređen udio vlasništva u OpenAI-ju, tvrtki čija se vrijednost procjenjuje na 500 milijardi dolara.

Tvrtka Anthropic izvijestila o kibernetičkim napadima uz pomoć AI-ija

Prošli je mjesec konkurentska tvrtka Anthropic izvijestila o prvim kibernetičkim napadima uz pomoć umjetne inteligencije u kojima je AI djelovao uglavnom autonomno, pod nadzorom navodnih kineskih državnih aktera, te uspješno hakirao i pristupio internim podacima ciljeva. Ovog je mjeseca OpenAI objavio da je njegov najnoviji model gotovo tri puta bolji u hakiranju nego prije tri mjeseca te dodao: „Očekujemo da će nadolazeći AI modeli nastaviti tim smjerom.“

OpenAI se također brani od tužbe obitelji Adama Rainea, 16-godišnjaka iz Kalifornije koji je počinio samoubojstvo nakon navodnog poticanja od strane ChatGPT-ja. Tvrtka tvrdi da je Raine zloupotrijebio tehnologiju. Drugi slučaj, podnesen ovog mjeseca, tvrdi da je ChatGPT poticao paranoične zablude 56-godišnjeg Stein-Erika Soelberga iz Connecticuta, koji je potom ubio svoju 83-godišnju majku i počinio samoubojstvo.

Glasnogovornik OpenAI-ja rekao je da tvrtka razmatra podneske u slučaju Soelberg, koji je opisao kao „nevjerojatno potresan“, te da poboljšava obuku ChatGPT-ja „kako bi prepoznavao i reagirao na znakove mentalne ili emocionalne uznemirenosti, deeskalirao razgovore i usmjeravao ljude prema stvarnoj pomoći“.