U porastu je "nihilistički ekstremizam" - i pomaže mu umjetna inteligencija

Nasilni ekstremisti koriste umjetnu inteligenciju kako bi izbjegli moderiranje na društvenim mrežama, prema voditeljici jedne od vodećih europskih radnih skupina za prevenciju nasilja, piše SkyNews.

Govoreći na TikTokovom forumu za povjerenje i sigurnost u Dublinu, Judy Korn, izvršna direktorica Violence Prevention Networka, rekla je da se priroda ekstremizma mijenja zajedno s taktikama koje se koriste.

„[Dok] islamistički i krajnje desni ekstremizam rastu,“ rekla je Korn, „najbrži rast bilježe nejasni oblici nasilja i nihilistički nasilni ekstremizam.“

Nihilistički ekstremizam, objasnila je, nije pokretan ideologijom osim „razaranja i kaosa“ – što ga čini težim za otkrivanje na društvenim mrežama jer ne pokreće tradicionalne filtre sadržaja.

Nasilni ekstremisti postaju sve mlađi

U isto vrijeme, nasilni ekstremisti koriste generativnu umjetnu inteligenciju za širenje svojih poruka.

„Generativna AI mnogo je pametnija od nasilnih ekstremista, jer brže od čovjeka uči kako proizvesti sadržaj koji prenosi željenu poruku, a da ne krši propise i smjernice platforme“, rekla je Korn.

Nasilni ekstremisti također postaju sve mlađi.

U Ujedinjenom Kraljevstvu više od 50% osoba upućenih u deradikalizacijski program Prevent mlađe je od 18 godina, a svaka peta osoba uhićena zbog terorizma pravno je dijete, prema podacima protuterorističke policije.

Tijekom događaja, TikTok je najavio niz novih mjera za bolju zaštitu korisnika, uključujući nove edukativne poruke za korisnike koji pretražuju pojmove vezane uz ekstremizam u Njemačkoj. Platforma je također objavila da se 98,9% sadržaja uklonjenog zbog kršenja politika o mržnji i nasilnim organizacijama proaktivno uklanja prije nego što bude prijavljeno.

"Zajednički izazov u industriji"

Uz mjere protiv ekstremizma, TikTok je najavio i novi nevidljivi vodeni žig koji će pomoći korisnicima prepoznati kada je sadržaj izrađen pomoću AI-ja.

Tvrtka godinama koristi alate za detekciju AI sadržaja, uključujući široko prihvaćen C2P sustav označavanja, koji ugrađuje informacije u metadata sadržaja.

„Zajednički izazov u industriji je to što se ove oznake mogu ukloniti ako se sadržaj preuzme pa ponovno učita ili preradi negdje drugdje“, rekla je Jade Nester, direktorica za javne politike u području podataka za Europu u TikToku.

„Ovi nevidljivi vodeni žigovi pomažu nam riješiti taj problem dodavanjem robusnog tehnološkog žiga koji samo mi možemo očitati.“

TikTok je također najavio uvođenje novog, gamificiranog „centra za dobrobit“, koji bi trebao potaknuti korisnike na fokusiranje na mentalno zdravlje kroz meditacije, afirmacije i kontrolirano vrijeme provedeno na ekranu.