Veliki propust AI diva: Stotine privatnih razgovora završilo javno dostupno na internetu

Kako prenosi BBC, među indeksiranim sadržajem našle su se i konverzacije koje su sadržavale osjetljive osobne i poslovne podatke.

Poveznice na te razgovore, od kojih su neki sadržavali osjetljive osobne ili poslovne informacije, pojavljivale su se među rezultatima pretraživanja.

Provjere su pokazale da su tražilice poput Googlea indeksirale razgovore koje su korisnici prethodno podijelili koristeći Claudeovu opciju za dijeljenje. Time je njihov sadržaj postao dostupan široj javnosti.

Iako Claude pri dijeljenju upozorava da će razgovor moći vidjeti "svatko tko ima poveznicu", nigdje nije jasno navedeno da bi takve poveznice mogle završiti u rezultatima internetskih pretraga. Mogućnost da ih tražilice pronalaze uklonjena je tijekom vikenda, no dio razgovora u međuvremenu je arhiviran te se i dalje dijeli internetom.

Glasnogovornica Anthropica istaknula je da korisnici sami odlučuju žele li podijeliti svoje razgovore i kada će to učiniti. Dodala je da se poveznice "ne mogu pogoditi niti pronaći, osim ako ih korisnici sami ne podijele".

"Kada netko podijeli razgovor, taj sadržaj postaje javan. Kao i svaki drugi javno dostupan sadržaj na internetu, mogu ga arhivirati servisi trećih strana", rekla je.

Iz Googlea su poručili da tvrtka ne odlučuje koje će stranice biti objavljene na internetu te da je to odgovornost njihovih vlasnika.

"Vlasnicima stranica pružamo jasne alate kojima mogu odrediti smiju li se njihove stranice pretraživati ili indeksirati, a mi njihove upute uvijek poštujemo", rekao je glasnogovornik Googlea.

Više od 200 razgovora pronađeno putem Googlea

Na problem su prvi upozorili korisnici Reddita, koji su u rezultatima pretraživanja pronašli više od 200 razgovora raspoređenih na najmanje 25 stranica rezultata. Dio njih vođen je prije samo nekoliko tjedana, a teme su bile vrlo različite.

U jednom razgovoru iz prošle godine korisnik je pitao Claudea: "Želiš li pomoći meni ili više želiš pomoći Anthropicu?". Chatbot je odgovorio da "osjeća nešto poput želje pomoći tebi".

U drugom slučaju, iz travnja ove godine, korisnik je od Claudea zatražio da pripremi nacrt još neobjavljenog bloga o sigurnosti računalnog oblaka, pri čemu je razgovor sadržavao detalje o korporativnom projektu.

Jedan korisnik prošlog je mjeseca pitao chatbot kako "postati devetorepa lisica", objašnjavajući da se doslovno želi pretvoriti u to mitsko biće.

Među javno dostupnim razgovorima bili su i oni u kojima je Claude pomagao pri pisanju životopisa, a korisnici su pritom unosili svoja imena, kontaktne podatke i informacije o radnom iskustvu.

Neki zapisi sadržavali su i transkripte privatnih razgovora te dokumente koji su djelovali kao povjerljivi poslovni projekti, uključujući istraživanja iz zdravstvenog sektora.

Slični incidenti već su se događali

Ovo nije prvi slučaj da su razgovori s AI chatbotovima završili u rezultatima internetskih pretraga. OpenAI se prošle godine suočio s gotovo identičnim problemom kada su zapisi razgovora iz ChatGPT-a postali javno dostupni, nakon čega je tvrtka dodatno ograničila pristup takvim podacima.

Sličan propust dogodio se i s Grokom, chatbotom društvene mreže X, kada su stotine tisuća razgovora također postale dostupne putem tražilica.

Budući da se razgovori s Claudeom više ne indeksiraju, čini se da je Anthropic u međuvremenu iskoristio Googleove alate za blokiranje spornih poveznica u rezultatima pretraživanja. Riječ je o jednostavnom postupku koji, međutim, mora pokrenuti sam vlasnik web-stranice.