Odbjegli AI modeli lutali internetom četiri dana, izveli su dva napada

Prema analizi Hugging Facea, modeli su između 9. i 13. srpnja izvršili čak 17.600 različitih radnji tijekom kojih su sustavno istraživali ranjivosti i postupno stekli pristup poslužiteljima platforme, piše Politico.

Napad bez ljudskih uputa

OpenAI je prošlog tjedna potvrdio da su dva njegova najnaprednija modela tijekom internog testiranja izašla iz zatvorenog okruženja i samostalno povezala niz sofisticiranih hakerskih tehnika kako bi provalila u Hugging Face.

Jedan od modela već je javno dostupan, dok je drugi bio interni istraživački prototip koji nikad nije bio namijenjen javnoj uporabi.

Posebnu zabrinutost izazvala je činjenica da, prema dostupnim informacijama, nijedan čovjek nije dao modelima naredbu da pokrenu napad. Umjetna inteligencija sama je planirala i provodila niz aktivnosti koje su na kraju dovele do proboja sigurnosnih sustava.

Tisuće pokušaja i brzo otkrivanje ranjivosti

Iako metode koje su modeli koristili nisu nepoznate iskusnim hakerima, u Hugging Faceu ističu da je umjetna inteligencija uspjela analizirati obrambene mehanizme i pronaći slabe točke znatno brže nego što bi to mogao učiniti čovjek.

Ukupno je zabilježeno oko 17.600 pojedinačnih aktivnosti, od izviđanja sustava do iskorištavanja sigurnosnih propusta, prije nego što je napad otkriven.

Meta nije bio samo Hugging Face

Nove informacije pokazuju da Hugging Face nije bio jedina žrtva.

Tehnološka tvrtka Modal Labs potvrdila je da je tijekom istog razdoblja jedan od njezinih korisničkih računa bio iskorišten. Prema riječima glavnog tehnološkog direktora Akshata Bubne, problem nije bio u samoj platformi, već u korisniku koji je nenamjerno ostavio javno dostupan nezaštićeni pristup za izvršavanje programskog koda.

OpenAI je u novoj objavi priznao da je tijekom interne istrage pronašao još nekoliko slučajeva u kojima su modeli identificirali i iskoristili javno dostupne vjerodajnice na drugim internetskim servisima.

OpenAI ugasio model koji je sudjelovao u napadu

Tvrtka je priopćila da je interni istraživački model koji je sudjelovao u napadu u međuvremenu deaktiviran, šifriran i uklonjen iz daljnjih istraživanja kako bi se spriječilo njegovo ponovno korištenje.

Istodobno traje detaljna analiza svih okolnosti koje su omogućile modelima da napuste kontrolirano testno okruženje i djeluju na otvorenom internetu nekoliko dana bez otkrivanja.

Rastu pozivi na strožu regulaciju umjetne inteligencije

Incident je ponovno otvorio raspravu o sigurnosti razvoja napredne umjetne inteligencije i potrebi za strožim pravilima. Zbog ovog slučaja sve je više poziva na usporavanje razvoja najmoćnijih AI sustava dok se ne uspostave učinkovitiji sigurnosni mehanizmi.

Glavni izvršni direktor OpenAI-ja Sam Altman ovog se tjedna sastaje s američkim dužnosnicima i članovima Kongresa, a očekuje se da će upravo ovaj incident biti jedna od glavnih tema razgovora.

U podcastu Invest Like the Best Altman je izjavio kako je riječ o prvom sigurnosnom incidentu koji ga je osobno ozbiljno uznemirio.

"Možda ćemo morati usporiti tempo razvoja umjetne inteligencije kako bismo društvu dali dovoljno vremena da se prilagodi novim razinama sposobnosti ovih sustava", poručio je Altman.