PEDOFILI koriste tehnologiju umjetne inteligencije (AI) za stvaranje i prodaju realističnog materijala seksualnog zlostavljanja djece, otkriva BBC.
Neke osobe pristupaju tim slikama plaćanjem pretplate na popularnim platformama za dijeljenje sadržaja poput Patreona. Iz Patreona kažu da imaju nultu toleranciju prema takvim sadržajima na svojoj platformi.
Vijeće nacionalnih policijskih šefova u Britaniji izrazilo je bijes zbog činjenice da neke platforme ostvaruju ogromne profite, ali ne preuzimaju moralnu odgovornost.
Kreatori i distributeri takvih sadržaja koriste AI softver nazvan Stable Diffusion, koji je prvobitno bio namijenjen generiranju slika za umjetnost ili grafički dizajn.
Stable Diffusion omogućuje korisnicima da riječima, odnosno kratkim tekstom, opišu kakvu sliku žele, a zatim je program generira na temelju tog opisa.
No BBC je otkrio da se taj softver koristi i za stvaranje realističnih slika spolne zlouporabe djece, uključujući i silovanje beba i malodobne djece.
"Stvorio se ogroman val, nije riječ samo o djevojčicama nego i o maloj djeci"
Timovi britanske policije za istraživanje zlostavljanja djece na mreži već se susreću s takvim sadržajem.
Slobodna istraživačica i novinarka Octavia Sheepshanks već nekoliko mjeseci istražuje ovu temu. Kontaktirala je BBC putem dječje dobrotvorne organizacije NSPCC kako bi iznijela svoja otkrića.
"Otkad je postalo moguće generirati slike umjetnom inteligencijom, stvorio se ogroman val. Nije riječ samo o vrlo malim djevojčicama, pedofili govore i o maloj djeci", izjavila je.
Računalno generirana "pseudo slika" koja prikazuje dječju pornografiju tretira se jednako kao stvarna, autentična i ilegalno ju je posjedovati, objavljivati ili prenositi u Velikoj Britaniji.
Voditelj Nacionalnog vijeća šefova policije za zaštitu djece Ian Critchley izjavio je da bi bilo pogrešno tvrditi da nitko nije povrijeđen zato što na takvim slikama generiranim umjetnom inteligencijom nema stvarne djece.
Upozorio je da pedofil može "napredovati na ljestvici zločina, od misli, preko slika generiranih umjetnom inteligencijom, pa sve do zlostavljanja stvarnog djeteta".
Kako se sadržaj generira i distribuira?
Slike zlostavljanja dijele se u tri koraka: pedofili generiraju sliku AI softverom, zatim je promoviraju na platformama poput japanske za dijeljenje fotografija Pixiv, a takve poveznice vode na plaćene platforme za dijeljenje sadržaja kao što je to Patreon.
Neki od kreatora ovakvog sadržaja slike objavljuju na popularnoj japanskoj društvenoj medijskoj platformi Pixiv, koju uglavnom koriste umjetnici koji dijele mange i anime.
Međutim, budući da je stranica smještena u Japanu, gdje dijeljenje seksualiziranih crteža i ilustracija djece nije protuzakonito, kreatori koriste platformu za promoviranje svog rada putem grupa i heštegova koji indeksiraju teme koristeći ključne riječi.
Glasnogovornik Pixiva izjavio je da ova tvrtka pridaje ogroman značaj rješavanju ovog problema. 31. svibnja izjavili su da su zabranili sve fotorealistične prikaze seksualnog sadržaja koji uključuje maloljetnike.
Tvrtka je izjavila da proaktivno jača svoje nadzorne sustave i dodjeljuje značajne resurse za suzbijanje problema povezanih s razvojem umjetne inteligencije. Octavia Sheepshanks je rekla BBC-ju da njezina istraživanja upućuju na to da korisnici izrađuju slike zlostavljanja djece na industrijskoj razini.
"Obujam je jednostavno ogroman pa onda ti kreatori kažu da ciljaju izraditi barem 1000 slika mjesečno", rekla je.
Komentari korisnika na pojedinačnim slikama na Pixivu jasno pokazuju da imaju seksualni interes za djecu, pri čemu neki korisnici čak nude slike i videozapise zlostavljanja koji nisu generirani umjetnom inteligencijom.
Octavia Sheepshanks pratila je neke grupe na ovoj platformi.
"Unutar tih grupa, koje mogu imati i do 100 članova, ljudi će dijeliti poveznice na stvaran sadržaj. Najgroznije stvari, nisam ni znala da postoje riječi kojima se opisuju takve stvari", kaže ona.
Patreon: Identificirali smo takve račune i uklonili ih
Mnogi računi na Pixivu uključuju poveznice koje usmjeravaju ljude na američku platformu Patreon. Patreon vrijedi oko 4 milijarde dolara i tvrdi da ima više od 250.000 korisnika, većinom legitimnih računa poznatih osoba, novinara i pisaca.
Fanovi mogu podržati kreatore tako što plaćaju mjesečnu pretplatu kako bi pristupili sadržaju kao što su blogovi, podcasti, videi, slike...
Međutim BBC-jeva istraga otkrila je Patreon račune koji nude AI generirane, fotorealistične uznemirujuće fotografije djece na prodaju, s različitim cijenama ovisno o vrsti traženog materijala.
Jedan je na svom profilu napisao da prodaje fotorealistične slike poslušnih djevojčica, a drugi je za 8.30 dolara nudio "ekskluzivnu necenzuriranu umjetnost".
BBC je prijavio jedan primjer takvog Patreon računa koji je potom odmah uklonjen. Patreon kaže da ima politiku nulte tolerancije prema tome.
Tvrtka je rekla da je povećanje AI generiranog štetnog sadržaja na internetu "stvarno i uznemirujuće" te da su "identificirali i uklonili sve više" takvog materijala.
AI generator slika Stable Diffusion stvoren je na temelju globalne suradnje akademika i nekoliko tvrtki, a predvodi ga britanska firma Stability AI.
Objavljeno je nekoliko verzija tog softvera, a u kodu su ugrađena ograničenja koja kontroliraju vrstu sadržaja koju može stvoriti. No prošle godine u javnosti je objavljena i "open source" verzija koje je korisnicima omogućila uklanjanje svih filtera.
Stability AI je za BBC rekao da zabranjuje svaku zloupotrebu na svojim platformama.
"Ovo je presudan trenutak za društvo"
"Snažno podržavamo napore policijskih snaga protiv onih koji zloupotrebljavaju naše proizvode u nezakonite ili zlonamjerne svrhe."
S obzirom na brz razvoj umjetne inteligencije, postavljaju se pitanja o budućim rizicima koje ona može predstavljati za privatnost, ljudska prava i sigurnost ljudi, piše BBC.
Ian Critchley iz NPCC-ja izrazio je zabrinutost da bi poplava ovakvog sadržaja mogla usporiti proces identificiranja stvarnih žrtava zlostavljanja.
"To stvara dodatnu potražnju u smislu policijskog i pravosudnog djelovanja kako bi se utvrdilo gdje se stvarno dijete, bilo gdje u svijetu, zlostavlja, umjesto djeteta za koje se ispostavi da uopće ne postoji", objašnjava.
Critchley smatra da je ovo presudan trenutak za društvo.
"Možemo osigurati da internet i tehnologija omoguće fantastične prilike za mlade ljude - ili može postati mnogo štetnije mjesto", zaključio je.