ZAGOVORNICI umjetne inteligencije najavljivali su doba neviđene produktivnosti, više slobodnog vremena za radnike i znanstvenih otkrića. U stvarnosti se, međutim, ova tehnologija neprestano povezuje sa zločinima toliko stravičnim da se čine gotovo nevjerojatnima. U jednom posebno užasnom slučaju, muškarac je koristio Grok, chatbot Elona Muska, kako bi stvorio oko 7000 seksualno eksplicitnih slika svoje pokćerke, dajući umjetnoj inteligenciji njezinu fotografiju snimljenu u dobi od 11 godina, navodi se u tužbi, piše Futurism.

Ove su optužbe, kako izvještava Ars Technica, iznesene u prijedlogu skupne tužbe protiv tvrtke xAI, koja je sada u vlasništvu SpaceX-a i rebrendirana u SpaceXAI. U tužbi se tvrtku tereti za stvaranje alata umjetne inteligencije koji služi za "svlačenje" ljudi bez njihova pristanka te za zaštitu predatora od organa progona.

Sigurnosni sustavi potpuno zakazali

Prema tužbi, koju je podnijela skupina djevojaka koje tvrde da su bile žrtve opscenih sadržaja generiranih Grokom, sigurnosni sustavi chatbota gotovo uopće nisu registrirali užasavajuću aktivnost očuha. Sustav, navodi Ars Technica, nije označio bezbrojne slike koje prikazuju incest i silovanje. Tek nakon što je unesena specifična naredba za "grupno silovanje", poslana je dojava Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC), koji je potom upozorio vlasti.

Ometanje istrage i tragičan ishod

Međutim, tvrtka xAI je "na svakom koraku opstruirala" istragu koja je uslijedila, stoji u tužbi. Odbili su pružiti više informacija o korisniku koji stoji iza zahtjeva, uključujući ključne identifikacijske podatke poput IP adrese. Policija je unatoč tome uspjela pronaći muškarca i kod njega otkrila golemu zbirku slika njegove pokćerke generiranih umjetnom inteligencijom, u tužbi identificirane samo kao Jane Doe 4. Dva dana nakon puštanja uz jamčevinu, muškarac se ustrijelio, dodatno uništivši život mlade djevojke.

"Preko noći, čitava stvarnost Jane Doe 4 uništena je dvostrukom tragedijom seksualnog iskorištavanja djece i samoubojstva", navodi se u tužbi. "Njezina je obitelj razorena, a život joj je postao noćna mora."

Problem širih razmjera

Grokova sposobnost stvaranja seksualiziranih deepfakeova privukla je pozornost javnosti nakon što je tijekom nekoliko tjedana prošlog prosinca i ovog siječnja korišten za generiranje desetaka tisuća lažnih golih slika stvarnih žena i djece, stvorenih bez njihova pristanka. Nakon toga, tvrtka Copyleaks procijenila je da je bot generirao jednu takvu sliku svake minute. Centar za borbu protiv digitalne mržnje kasnije je procijenio da je stvoreno oko 3.000.000 lažnih golih slika, od čega je više od 23.000 prikazivalo djecu.

Musk, izvršni direktor i vlasnik tvrtke xAI, zanijekao je da je Grok korišten za stvaranje materijala koji prikazuje seksualno zlostavljanje djece (CSAM). Prvotni odgovor tvrtke na negodovanje javnosti bio je ograničavanje generiranja slika samo na korisnike koji plaćaju uslugu. Više od tjedan dana kasnije - dok je Grok nastavio proizvoditi sve više spornog sadržaja - xAI je objavio da uvodi strože zaštitne mjere kako bi spriječio stvaranje seksualnih slika stvarnih ljudi, ne priznajući pritom zabrinjavajući trend.

Optužbe za zaštitu zlostavljača

U tužbi se xAI također optužuje za zaštitu predatora otežavanjem napora policije da ih pronađe. U priopćenju za medije koje citira Ars Technica, pravni tim tužitelja ukazao je na otkriće NCMEC-a da 90 posto prijava iz xAI-ja nije bilo "provedivo" jer su sadržavale premalo informacija o prijavljenim korisnicima.

"Imali su sve što je potrebno da pomognu policiji zaustaviti odgovornu osobu i osigurati pravdu. Umjesto toga, ostali su nijemi i dopustili su toj osobi da iskoristi Grok kako bi mi ukrala djetinjstvo", izjavila je Jane Doe 4, prenosi Ars Technica.