EU želi zaustaviti aplikacije za "svlačenje" ljudi pomoću umjetne inteligencije. Je li to moguće?

Ove aplikacije prvi put su se pojavile 2017. godine, no posljednjih godina razvile su se velikom brzinom zahvaljujući generativnoj umjetnoj inteligenciji.

Softver analizira konture odjevene osobe i zatim generira fotorealističan prikaz golog tijela, često koristeći samo jednu fotografiju preuzetu s društvenih mreža.

Prema podacima za 2026. godinu, aplikacije za deepfake pornografiju preuzete su više od 705 milijuna puta širom svijeta. Samo tijekom 2024. zabilježen je rast od 118 posto, dok je početkom 2026. broj AI incidenata porastao deset puta. U čak 99 posto slučajeva mete su bile žene, piše Euronews.

Dodatnu pažnju izazvao je i slučaj Groka, chatbota Elona Muska, koji je navodno generirao milijune seksualno eksplicitnih deepfake slika žena i djece bez njihova pristanka.

Izričita zabrana EU od prosinca 2026.

Zbog toga su europski zakonodavci 7. svibnja postigli dogovor o izričitoj zabrani ovakvih aplikacija, nazivajući ih “moralnom i pravnom crvenom linijom”.

Dogovor predviđa da AI sustavi čija je glavna svrha “svlačenje” osoba na fotografijama ili prikazivanje prepoznatljivih osoba u seksualno eksplicitnim scenarijima bez pristanka neće smjeti biti dostupni na tržištu EU-a.

Prema novim pravilima, developeri i trgovine aplikacijama morat će ukloniti takve servise do prosinca 2026. godine ili će se suočiti s visokim novčanim kaznama.