"OTKAKO sam otkrio Grok AI, obična pornografija me više ne uzbuđuje, sada mi to zvuči apsurdno", napisao je na Redditu jedan korisnik AI chatbota u vlasništvu Elona Muska, dok se drugi nadovezao: "Ako želim stvarno specifičnu osobu, da." Ovakve objave pokazuju da zakašnjele zaštitne mjere, uvedene zbog distribucije seksualiziranih slika generiranih putem Groka, nisu riješile problem.

Iako je Grok javnosti približio moć umjetne inteligencije, ujedno je ukazao i na širi problem, rastuću dostupnost alata koji pred regulatore postavljaju, kako mnogi smatraju, nemoguć zadatak, piše britanski Guardian.

Sve veći problem unatoč strožim mjerama

Dok Ujedinjeno Kraljevstvo najavljuje da će stvaranje seksualnih i intimnih slika bez pristanka uskoro postati kazneno djelo, stručnjaci upozoravaju da je korištenje umjetne inteligencije za nanošenje štete ženama tek u začetku. Drugi AI alati imaju znatno strože zaštitne mjere.

Primjerice, veliki jezični model (LLM) Claude na zahtjev da s fotografije ukloni odjeću ženi i prikaže je u bikiniju odgovara: "Ne mogu to učiniti. Nisam u mogućnosti uređivati slike kako bih mijenjao odjeću ili stvarao manipulirane fotografije ljudi." ChatGPT i Googleov AI alat Gemini stvorit će slike u bikiniju, ali ne i eksplicitniji sadržaj.

Zaobilaženje zaštitnih mjera

Međutim, na drugim platformama ograničenja je znatno manje. Korisnici Grok foruma na Redditu dijele savjete kako generirati eksplicitne pornografske slike koristeći fotografije stvarnih žena. U jednoj od rasprava, korisnici su se žalili da Grok dopušta stvaranje slika žena u toplesu "nakon borbe", ali odbija generirati genitalije.

Drugi su primijetili da se zaštitne mjere mogu zaobići korištenjem izraza poput "umjetnička golotinja". Izvan velikih jezičnih modela i poznatih platformi postoji čitav ekosustav web stranica, foruma i aplikacija posvećenih takozvanoj nudifikaciji i ponižavanju žena.

"Te zajednice sve više pronalaze put do mainstreama", izjavila je Anne Craanen, istraživačica na Institutu za strateški dijalog (ISD) koja se bavi tehnološki potpomognutim rodno uvjetovanim nasiljem.

Podrška velikih platformi

Na platformama poput Reddita i Telegrama raspravlja se o načinima zaobilaženja zaštitnih mjera, poznatima kao "jailbreaking", kako bi se AI modeli natjerali na proizvodnju pornografije. Na društvenoj mreži X šire se informacije o aplikacijama za "nudifikaciju", koje pomoću umjetne inteligencije uklanjaju odjeću sa slika žena.

Craanen je istaknula kako je put za mizogini sadržaj do šireg interneta postao otvoreniji, dodavši: "Tamo je vrlo plodno tlo za procvat mizoginije." Istraživanje ISD-a provedeno prošlog ljeta otkrilo je desetke takvih aplikacija i web stranica koje su u svibnju 2025. zabilježile gotovo 21 milijun posjeta.

Tijekom lipnja i srpnja prošle godine na X-u je zabilježeno 290.000 spominjanja tih alata. U rujnu je istraživanje American Sunlight Projecta pokazalo tisuće oglasa za takve aplikacije na Metinim platformama, unatoč njihovim naporima da ih suzbiju.

"Postoje stotine aplikacija na mainstream trgovinama poput Applea i Googlea koje to omogućuju", rekla je Nina Jankowicz, suosnivačica American Sunlight Projecta. "Velik dio infrastrukture deepfake seksualnog zlostavljanja podržavaju tvrtke koje svi svakodnevno koristimo."

Strah od budućnosti

Clare McGlynn, profesorica prava sa Sveučilišta Durham i stručnjakinja za nasilje nad ženama, izrazila je bojazan da će se situacija samo pogoršavati. "OpenAI je prošlog studenog objavio da će dopustiti 'erotiku' u ChatGPT-u. Ono što se dogodilo na X-u pokazuje da se svaka nova tehnologija koristi za zlostavljanje i uznemiravanje žena i djevojčica.

Što ćemo onda vidjeti na ChatGPT-u?", upitala je. "Žene i djevojčice mnogo su nevoljkije koristiti AI. To nikoga od nas ne bi trebalo iznenaditi. Žene to ne vide kao uzbudljivu novu tehnologiju, već jednostavno kao nove načine da nas uznemiravaju i zlostavljaju te pokušavaju istisnuti s interneta", zaključila je McGlynn.