OpenAI tvrdi: Iran i Rusija koristili su ChatGPT za propagandu, stvarali "lažne novinare"

Američka tehnološka tvrtka OpenAI objavila je da je otkrila i zaustavila dvije operacije utjecaja iz Rusije i Irana u kojima je korišten ChatGPT za stvaranje propagandnih sadržaja i prikrivanje njihova stvarnog podrijetla.

Prema izvješću tvrtke, sudionici operacija koristili su umjetnu inteligenciju za izradu lažnih novinarskih identiteta, pisanje članaka i pripremu objava na društvenim mrežama. Cilj je, među ostalim, bio širiti proruske narative o Ukrajini te poticati podjele u SAD-u i Izraelu povezane s ratom na Bliskom istoku, piše Euronews.

Slučaj pokazuje kako se široko dostupni alati umjetne inteligencije mogu iskoristiti za brzo stvaranje i širenje političkih poruka koje izgledaju kao uobičajeni novinarski ili komentatorski sadržaj.

Sedam lažnih novinarskih profila iz Irana

Iranska operacija uključivala je sedam lažnih novinarskih profila. Njihovi su se vlasnici predstavljali kao novinari iz zapadnih zemalja, uključujući SAD, a tako stvorene identitete koristili su za objavljivanje opsežnih članaka u medijima diljem svijeta.

OpenAI navodi da je identificirao gotovo 100 članaka objavljenih ili prenesenih pod imenima povezanima s operacijom, i to na približno 12 internetskih portala. Uglavnom je riječ o manjim i srednje velikim medijima koji prate međunarodne odnose, geopolitiku i zbivanja na Bliskom istoku.

Prvi identificirani članak objavljen je u srpnju 2025., a posljednji u listopadu 2026. Učestalost objava povećala se nakon izbijanja rata između SAD-a i Irana ranije ove godine, navodi tvrtka. Osim članaka, operacija je proizvodila i komentare na društvenim mrežama povezane s tim sukobom.

Među lažnim identitetima bio je i Ervin B. Hoskins, koji se na internetu predstavljao kao "američki slobodni pisac". Profili povezani s tim imenom pojavili su se na nekoliko tehnoloških platformi, uključujući društvenu mrežu X i Instagram.

Prema snimkama zaslona koje je objavio OpenAI, podaci o transparentnosti na platformi X upućivali su na povezanost računa s aplikacijom iz zapadne Azije, dok su podaci Instagrama pokazivali da se račun nalazi u Iranu. Činilo se da su oba računa u međuvremenu suspendirana.

Ruska operacija koristila ljude u Latinskoj Americi

Druga operacija bila je povezana s Rusijom, a njezini su sudionici uspostavili organizaciju pod nazivom Social Research Center (SRC), predstavljenu kao istraživački centar.

Prema OpenAI-ju, organizacija je služila za prikriveno širenje poruka kojima se nastojalo narušiti ugled Ukrajine u Latinskoj Americi i utjecati na lokalnu politiku.

U operaciji su sudjelovali ljudi iz te regije koji, prema dostupnim dokazima, nisu znali da rade za rusku skupinu.

"Dostupni dokazi upućuju na to da zaposlenici SRC-a u Latinskoj Americi nisu bili svjesni da rade za rusku skupinu", objavio je OpenAI.

Tvrtka navodi da je većinu izvornog sadržaja stvaralo osoblje koje je operacija uključila u svoj rad. Takav način djelovanja opisala je kao najsloženiji pokušaj stvaranja lažnog identiteta koji je njezin tim za suzbijanje zlonamjernih aktivnosti prekinuo u posljednje dvije i pol godine.

ChatGPT pisao izvješća i objave za društvene mreže

U ruskoj operaciji ChatGPT se koristio za izradu internih izvješća o aktivnostima, pripremu sadržaja i sastavljanje analiza o radu navodnog istraživačkog centra.

Alat je služio i za oblikovanje tekstova namijenjenih objavljivanju na društvenim mrežama, uključujući objave i komentare.

Među temama kojima se operacija bavila bio je i prijedlog poljskog krajnje desnog zastupnika u Europskom parlamentu Grzegorza Brauna da se osobe koje pokazuju "antipoljskost" proglase nepoželjnima u Poljskoj. Prema OpenAI-ju, reakcijama na takve teme nastojalo se potaknuti podjele u Poljskoj zbog njezine potpore Ukrajini.

OpenAI je objavio da je blokirao skupine računa povezanih s ruskim i iranskim operacijama.