Kako teroristi koriste umjetnu inteligenciju za izgradnju bombi: "Samo pitaj Grok"

Umjetna inteligencija sve se više koristi i u svijetu terorizma. Novo istraživanje pokazuje da su dvije frakcije Boko Harama u Nigeriji koristile komercijalne AI alate za različite potrebe – od planiranja operacija i analize situacije na bojištu do rješavanja tehničkih problema povezanih s oružjem i eksplozivnim napravama.

Istraživači su razgovarali s 27 bivših pripadnika Boko Harama, odnosno skupina ISWAP i JAS. Sugovornici su opisali korištenje ChatGPT-a, Claudea, Geminija, Groka, Meta AI-ja i DeepSeeka kao izvora tehničkih i operativnih informacija prije, tijekom i nakon napada, piše Al Jazeera.

Prema istraživanju, korištenje AI-ja nije bilo tek povremeno eksperimentiranje pojedinaca. U obje skupine postojale su posebne jedinice čiji su članovi bili zaduženi za rad s umjetnom inteligencijom.

AI postao svojevrsni "savjetnik" na terenu

Istraživanje pokazuje da su pripadnici skupina AI koristili u različitim fazama operacija.

Chatbotovi su, prema iskazima bivših pripadnika, korišteni za analizu situacije na bojištu, probleme s opremom, planiranje napada te procjenu prethodnih operacija.

U jednom slučaju borac je tijekom operacije kamerom slao snimke na teren gdje ih je zapovjednik potom analizirao uz pomoć ChatGPT-a. Dobivene informacije koristile su se za donošenje novih odluka na terenu.

Korišten je i kad su borci naišli na nepoznato oružje. U jednom slučaju, zapovjednici su pitali jednog od takozvanih stručnjaka za umjetnu inteligenciju iz skupine kako rukovati novonabavljenim vatrenim oružjem. Njegov odgovor sugerirao je koliko je tehnologija postala rutinska: "Samo pitajte Grok", misleći na Elona Muskovog AI chatbota.

AI se navodno koristio i nakon neuspješnih operacija. Pripadnici bi opisali što su napravili, pokušali utvrditi zašto plan nije uspio te tražili načine kako promijeniti pristup u budućim akcijama.

Posebno zabrinjava korištenje za eksplozivna sredstva

Autorica istraživanja Antonia Juelich za Al Jazeeru je rekla da je otprilike deset od 27 intervjuiranih osoba govorilo o korištenju AI-ja u kontekstu eksploziva.

Prema njihovim iskazima, chatbotovi su korišteni i za rješavanje problema povezanih s izradom eksplozivnih naprava i iskorištavanjem dostupnih materijala.

Upravo je ta mogućnost, smatra Juelich, posebno zabrinjavajuća. Problem nije samo u tome što se na internetu već dugo mogu pronaći informacije o oružju, nego u tome što AI može odgovore prilagoditi konkretnom problemu koji korisnik ima.

Istraživanje navodi i slučajeve u kojima su pripadnici skupina pokušavali iskoristiti materijal iz neeksplodiranog vojnog streljiva, kao i navode o korištenju umjetne inteligencije pri prilagodbi komercijalno dostupnih dronova za napade.

Teroristi pokušavaju zaobići zaštite AI sustava

Istodobno su istraživači organizacije Tech Against Terrorism pronašli dokaze da pristaše Islamske države na internetskim forumima razmjenjuju informacije o pokušajima zaobilaženja sigurnosnih ograničenja AI sustava.

Takvi pokušaji poznati su kao "jailbreaking" – nastojanje da se chatbot navede da zanemari ugrađene sigurnosne mehanizme i odgovori na zahtjeve koje bi inače odbio.

Al Jazeera navodi da se na jednom proislamskom ekstremističkom forumu raspravljalo upravo o tome kako doći do informacija povezanih s oružjem i zaobići zaštitne mehanizme.

Tvrtke tvrde da imaju zaštitne mehanizme

Velike tehnološke kompanije već imaju pravila kojima zabranjuju korištenje njihovih sustava za terorizam, nasilje i razvoj oružja. OpenAI, Anthropic, Meta i xAI navode da koriste različite sigurnosne mehanizme za prepoznavanje i blokiranje opasnih zahtjeva.

No istraživanje pokazuje da dio korisnika pokušava pronaći načine kako te zaštite zaobići.

Posebno je važno da se nalazi Cambridgea uglavnom odnose na korištenje AI-ja tijekom 2023. i 2024. godine. Od tada su modeli umjetne inteligencije znatno napredovali, zbog čega Juelich upozorava da bi se mogućnosti takvih skupina mogle promijeniti.

"Brine me kamo ovo vodi", rekla je istraživačica za Al Jazeeru.