INTERNETOM se šire materijali sa seksualnim zlostavljanjem djece generirani umjetnom inteligencijom, a količina takvog ilegalnog sadržaja otkrivenog ove godine već je premašila ukupne brojke iz 2025. godine. Analitičari organizacije Internet Watch Foundation (IWF) u prvoj polovici 2026. otkrili su više fotorealističnih materijala koji prikazuju seksualno zlostavljanje djece nego u cijeloj prethodnoj godini, piše The Guardian.

IWF, organizacija sa sjedištem u Ujedinjenom Kraljevstvu koja globalno prati takav sadržaj, navodi da je analizirala 6310 slika generiranih umjetnom inteligencijom koje po zakonu spadaju u kategoriju seksualnog zlostavljanja djece. To je 40 posto više od prošlogodišnjeg ukupnog broja, koji je iznosio nešto više od 4500 slika.

Broj takvih slučajeva raste već nekoliko godina, a posebno je naglo porastao broj videozapisa, iako se najnoviji podaci IWF-a odnose isključivo na fotografije. Većina analiziranih slika prikazuje djevojčice i djecu u dobi između sedam i 13 godina.

Pozivi na zakonsku regulaciju

Iz IWF-a ističu da ove brojke jasno pokazuju potrebu za novom zakonskom regulacijom umjetne inteligencije. Vlada premijera Andyja Burnhama još nije najavila da priprema novi zakon o toj tehnologiji. Britanski ministar za umjetnu inteligenciju Kanishka Narayan izjavio je da su sve opcije za nove propise otvorene, ali je dodao da će glavni kriterij za svaki zakonski prijedlog biti pitanje: "Hoće li britanski građani time biti sigurniji?"

Hannah Swirsky, voditeljica za javne politike u IWF-u, podržala je pozive parlamentarnih zastupnika na uvođenje obvezujućeg zakonodavstva o umjetnoj inteligenciji koje bi prisililo tvrtke na izradu sigurnijih modela. "Dužnost je tehnoloških kompanija razvijati alate koji se ne mogu ovako zloupotrebljavati. Problem je stvorila tehnologija, a tvrtke odbijaju ugraditi sigurnosne mehanizme u same alate", rekla je Swirsky.

Zloupotreba fotografija i upozorenja

Materijal sa seksualnim zlostavljanjem djece generiran umjetnom inteligencijom u Ujedinjenom Kraljevstvu je ilegalan. Vlada je također zabranila prilagodbu AI modela za stvaranje takvog sadržaja, kao i njegovu distribuciju. Za razvoj modela osmišljenog za proizvodnju hiperrealističnih materijala te vrste propisana je zatvorska kazna do pet godina.

Glasnogovornik vlade je poručio: "Britanski zakon je jasan – materijal sa seksualnim zlostavljanjem djece je protuzakonit, neovisno o tome je li generiran umjetnom inteligencijom. Idemo i korak dalje pa zabranjujemo AI modele koji se koriste za stvaranje takvog sadržaja i proizvodnju mučnih, hiperrealističnih slika koje je često teško razlikovati od fotografija stvarne djece."

Umjetna inteligencija omogućuje internetskim predatorima i stvaranje eksplicitnih slika djece. Služba Report Remove, koja blokira pojavljivanje intimnih slika na internetu, od djece je primila 420 prijava za fotografije za koje sumnjaju da su lažirane ili manipulirane kako bi bile pretvorene u eksplicitan sadržaj. Taj broj već premašuje ukupan broj prijava iz 2025. godine, kada ih je bilo 397.

Zbog zloupotrebe AI alata, Nacionalna agencija za kriminal (NCA) i IWF pozivaju roditelje i skrbnike da ne objavljuju fotografije svoje djece na društvenim mrežama. Preporučuju da se profili postave na privatno ili da se slike dijele isključivo s uskim krugom bliskih prijatelja.