"Htjelo se nekoga potpuno poniziti": Priča o Mr DeepFakes – najozloglašenijoj svjetskoj stranici s AI pornografijom

Za Patriziju Schlosser sve je počelo pozivom isprike od kolege, piše Guardian. “Žao mi je, ali ovo sam pronašao. Jesi li toga svjesna?” Poslao joj je poveznicu koja ju je odvela na stranicu Mr DeepFakes. Tamo je pronašla lažne slike sebe – gole, čučeći, u lancima, kako izvodi seksualne radnje s raznim životinjama.

“Bile su vrlo eksplicitne, vrlo ponižavajuće”, kaže Schlosser, njemačka novinarka NDR-a i Funka. “Bile su i vrlo loše napravljene, što je donekle olakšalo distancirati se i reći si da su očita krivotvorina. Ali bilo je vrlo uznemirujuće zamišljati da je netko negdje proveo sate pretražujući internet u potrazi za mojim slikama i sastavljajući sve to.”

Stranica joj je bila nova, unatoč njezinim prijašnjim visokoprofilnim istraživanjima pornografske industrije. “Nikad nisam čula za Mr DeepFakes – pornografsku stranicu u potpunosti posvećenu lažnim pornografskim videima i fotografijama. Iznenadila sam se koliko je velika – toliko videa svakog poznatog celebrityja.” Njezina prva reakcija bila je potisnuti to. “Pokušala sam to gurnuti u pozadinu, što je zapravo bila strategija izbjegavanja suočavanja,” kaže. “Ali čudno je kako mozak radi. Znaš da je lažno, ali svejedno to vidiš. To nisi ti, ali i jesi ti. Eto te tamo s psom i lancem. Osjećaš se povrijeđeno, ali i zbunjeno. U jednom trenutku sam odlučila: ‘Ne. Ljutita sam. Ne želim da te slike postoje.’”

Njezin kasniji dokumentarac za NDR-ovu emisiju STRG_F uspio je ukloniti slike. Također je pronašla mladića koji ih je izradio i objavio – posjetila je njegov dom i razgovarala s njegovom majkom. (Počinitelj sam nije htio izaći iz svoje sobe.) No Schlosser nije uspjela identificirati “Mr DeepFakes” – osobu iza stranice – unatoč pomoći istraživačkog kolektiva Bellingcat. Ross Higgins iz Bellingcata bio je na timu.

“Moja pozadina je istraživanje pranja novca”, kaže on. “Pogledao sam strukturu stranice i koristila je iste pružatelje internetskih usluga kao ozbiljne organizirane kriminalne skupine.” ISP-ovi su upućivali na povezanost s Wagnerom i osobama iz Panama Papersa. Reklame su uključivale aplikacije kineskih tehnoloških tvrtki, koje su kineskoj vladi omogućavale pristup svim korisničkim podacima. “Pretpostavio sam da je to sve previše sofisticirano da bi bilo djelo hobista,” kaže Higgins.

Ispostavilo se da je upravo to – djelo hobista.

Mjesto gdje se moglo naručiti deepfakeove bilo koje žene

Priča o Mr DeepFakes, najvećoj i najpoznatijoj svjetskoj stranici za nekonzensualnu deepfake pornografiju, zapravo je priča o samoj AI pornografiji – vjeruje se da je i sam izraz “deepfake” potekao od njegova tvorca. “Ground zero” AI-generirane pornografije, stranica – koja je pregledana više od 2 milijarde puta – prikazivala je nebrojene slavne žene, političarke, europske princeze, supruge i kćeri američkih predsjednika, kako se kidnapiraju, muče, briju, vezuju, sakate, siluju i dave. No sav taj sadržaj (koji bi za gledanje zahtijevao više od 200 dana) bio je tek izlog. Pravo srce stranice bio je forum.

Tamo je svatko tko je želio deepfake neke žene koju poznaje (djevojke, sestre, kolegice, razredne kolegice) mogao pronaći nekoga tko će ih izraditi za odgovarajuću cijenu. To je također bilo “trening područje”, tehničko središte gdje su se hobisti međusobno učili, razmjenjivali savjete, dijelili znanstvene radove i rješavali “probleme”. (Jedan od čestih problema bio je kako napraviti deepfake kad nemaš dovoljno dobar “dataset” – kada, dakle, pokušavaš napraviti deepfake osobe za koju nema mnogo fotografija.)

Autorica i aktivistica Sophie Compton provela je sate prateći Mr DeepFakes dok je istraživala nagrađivani dokumentarac Another Body (2023.). “Mislim da je ta stranica imala ključnu ulogu u širenju deepfakeova”, kaže. “Zaista vjerujem da postoji svijet u kojem se ta stranica nije napravila, nije dopustila ili je brzo ugašena, i da bi deepfake pornografija danas bila tek djelić problema. Bez nje, sve možda ne bi eksplodiralo ovom brzinom.”

To je uistinu bilo moguće. Počeci Mr DeepFakesa sežu u 2017.–18., kada se AI pornografija tek počela pojavljivati na Redditu. Jedan anonimni korisnik koji se zvao “deepfakes” (i kome se pripisuje stvaranje izraza) dao je rani intervju Viceu. Ubrzo nakon toga, početkom 2018., Reddit je zabranio deepfake pornografiju. “Imamo snimke njihovih foruma iz tog vremena i zajednica deepfakeova, koja je tada bila mala, paničarila je i napuštala platformu,” kaže Compton. Tada je nastao Mr DeepFakes, s prvim domenom dpfks.com. Administrator je koristio isto korisničko ime – dpfks – i bio je taj koji je tražio volontere za moderiranje, objavljivao pravila i vodiče te dijelio deepfake videa i detaljne upute za softver.

“Najdepresivniji dio je čitanje tih poruka i shvaćanje koliko je lako vlade mogle ovo zaustaviti u samom početku,” kaže Compton. “Ljudi koji su to radili nisu vjerovali da će im se to dopustiti. Pisali su: ‘Dolaze po nas!’, ‘Nikad nam neće dozvoliti da ovo radimo!’ Ali kako su nastavljali bez ikakvih posljedica, rasla je njihova smjelost. Covid je doprinio eksploziji jer je moderacija posvuda oslabila. Produkcija je postajala nasilnija – riječ je bila o tome da se nekoga potpuno ponizi. Najpopularnije slavne osobe često su bile vrlo mlade – Emma Watson, Billie Eilish, Millie Bobby Brown.” (Greta Thunberg je još jedan primjer.)

Tko je bio ‘Mr DeepFakes’?

Povremeno je davao anonimne intervjue. U BBC-ovom dokumentarcu Deepfake Porn: Could You Be Next? iz 2022., “vlasnik” i “web-dizajner” stranice, pod pseudonimom “deepfakes”, tvrdio je da pristanak žena nije potreban jer je “to fantazija, nije stvarno”.

Je li motiv bio novac? Stranica je imala oglase i premium članstvo plaćano kriptovalutama – 2020. na forumima se spominjalo da je prihod bio između 4.000 i 7.000 dolara mjesečno. “Postojao je komercijalni aspekt,” kaže Higgins. “Bio je to ‘side hustle’, ali i više od toga. Donosilo je notornost.”

U jednom trenutku, stranica je “objavila 6.000 fotografija lica američke političarke Alexandrije Ocasio-Cortez kako bi ljudi mogli izrađivati deepfake pornografiju s njom,” kaže Higgins. “Nevjerojatno. Toliki broj datoteka youtubera i političarki. Poruka je bila: ako si žena u ovom svijetu, možeš postići samo toliko, jer ako se usudiš javno istupiti, možeš očekivati da će tvoj lik biti korišten na najponižavajuće načine radi tuđe zarade.

“Najteži dio za mene bio je jezik koji se koristio za žene,” nastavlja. “Morali smo ga ublažiti u našem izvješću jer nismo htjeli da bude okidač. To je čista mizoginija. Čista mržnja.”

Gašenje stranice – i što je moglo biti učinjeno ranije

U travnju ove godine, istražitelji su povjerovali da su identificirali Mr DeepFakesa i poslali mu e-mailove. Dana 4. svibnja, stranica se ugasila. Obavijest na naslovnici okrivila je “gubitak podataka” zbog povlačenja “kritičnog pružatelja usluga”. “Nećemo se ponovno pokretati,” pisalo je. “Svaka stranica koja to tvrdi je lažna. Domena će na kraju isteći i ne odgovaramo za njezinu buduću uporabu. Ova će se poruka ukloniti za otprilike tjedan dana.”

Mr DeepFakes je gotov – ali prema Compton, to se moglo dogoditi mnogo ranije. “Svi su znakovi bili tu,” kaže. Godinu ranije, u travnju 2024., kada je britanska vlada najavila kriminalizaciju izrade i dijeljenja deepfake seksualnog materijala, Mr DeepFakes je odmah blokirao pristup korisnicima iz UK-a. (Planovi su kasnije odbačeni zbog izbora 2024.) “To je pokazalo da ‘Mr DeepFakesu’ očito nije bilo toliko stalo da ne bi reagirali na pritisak države,” kaže Compton. “Da im postane previše rizično i naporno, jednostavno bi prestali.”

No deepfake pornografija postala je toliko popularna i raširena da joj više ne treba “bazni logor”. “Stvari na koje su se ti tipovi ponosili, znanja koja su razvijali i dijelili, danas su toliko ugrađene da su svima dostupne jednim klikom u aplikaciji,” kaže Compton.

A za one koji žele nešto kompleksnije, kreatori – samoprozvani stručnjaci koji su nekad vrebali na forumima – sada otvoreno nude svoje usluge. Patrizia Schlosser to zna iz prve ruke. “Tijekom istraživanja, infiltrirala sam se i kontaktirala neke ljude s foruma, tražeći deepfake bivše djevojke,” kaže Schlosser. “Često se tvrdilo da je stranica bila samo o slavnim osobama, ali to nije bila istina. Odgovor je bio: ‘Da, naravno…’”

“Nakon gašenja Mr DeepFakesa, dobila sam automatsku poruku jednog od njih: ‘Ako želite da nešto napravim, javite … Mr DeepFakes je ugašen – ali naravno, mi nastavljamo raditi.’”