NA TIKTOKU i Instagramu posljednjih se tjedana šire videozapisi u kojima se pojavljuju navodni "insajderi" reality showa Love Island, popularnog britanskog formata u kojem skupina mladih samaca živi zajedno u luksuznoj vili, tražeći ljubav i boreći se za novčanu nagradu. Ti samoprozvani bivši zaposlenici i "ljudi iza kulisa" tvrde da otkrivaju stroga pravila ljepote i dijete koje su, navodno, natjecateljice morale slijediti pred kamerama.

No, ispostavilo se da ti ljudi uopće nisu stvarni. Riječ je o avatarima stvorenima umjetnom inteligencijom, koji uvjerljivo glume prave osobe i tako šire izmišljene priče i bizarne savjete o izgledu i prehrani.

Lažni i bizarni savjeti za mršavljenje

U jednom od prvih videa koji je počeo kružiti društvenim mrežama pojavila se djevojka koja je u kameru davala savjete o navodnim "pravilima ljepote" natjecateljica Love Islanda. Tvrdila je da su morale jesti mješavinu papaje i krastavaca kako bi izgubile pet kilograma u tjedan dana, piti čaj od matičnjaka za ravan trbuh te prije svakog snimanja koristiti piling marke Kollekt.

Video je prikupio više od 1.1 milijun pregleda prije nego što je uklonjen, no on je samo kap u moru sličnog sadržaja koji trenutno preplavljuje društvene mrežama. Brza pretraga pojma "love island beauty secrets" izbacit će desetke rezultata sa avatarima koji recitiraju gotovo identičan scenarij, obično započinjući frazama poput "evo tajni koje ne pokazuju na kameri".

Iako se sadržaj generiran umjetnom inteligencijom već koristio za prodaju wellnessa i kozmetike, ovaj novi val videa pokazuje da se sintetički avatari sada upotrebljavaju na još domišljatije i uvjerljivije načine.

Jedan takav video prikazuje avatar po imenu Linda, također generiran pomoću HeyGena (internetskim alatom i platformom sa sjedištem u Los Angelesu koji koristi umjetnu inteligenciju za generiranje videa), koja tvrdi: "Tamna strana Love Islanda o kojoj nitko ne smije govoriti. Audicirala sam za sedmu sezonu i stvari koje su nas tjerali da radimo kako bismo dobro izgledali na kameri su apsolutno lude."

U videu, koji ima preko 700.000 pregleda, avatar preporučuje trljanje ricinusovog ulja za uklanjanje strija i pijenje čaja od matičnjaka za tanak struk, na kraju promovirajući ekstrakt matičnjaka određene kozmetičke marke. Drugi video, koristeći avatar iz aplikacije Captions, također hvali isti ekstrakt i tvrdi da su natjecateljice morale "piti 'na eks' shotove jabučnog octa pomiješane s kajenskim paprom."

Stručnjaci upozoravaju: Ciljaju se mlađe žene

"Na društvenim mrežama prolazi sve što donosi klikove i angažman. Nije ih briga kakve posljedice to ostavlja na ljude, a najčešće su na udaru mlađe žene", rekao je Ben Winters, direktor za umjetnu inteligenciju u Američkoj federaciji potrošača.

Upozorava kako se deepfake tehnologija već koristila za financijske prevare ili imitiranja političara tijekom izbora, a danas se isti alati pojavljuju u obliku "pametnog marketinga". Sintetički avatari iskorištavaju popularne teme i šire pseudoznanstvene tvrdnje o zdravlju i ljepoti, s ciljem prodaje određenog proizvoda.

Primjerice, jedan avatar tvrdi da je sedam godina radio na setu Love Islanda i objašnjava kako su natjecateljice pile mješavinu chia sjemenki i jabučnog octa "za brzo pražnjenje i ravan trbuh". Na kraju video reklama završava promocijom jastučića korejskog brenda JiYu. Na Instagramu situacija nije ništa drukčija, avatari ondje preporučuju sve, od čaja od metvice "za hormonalnu ravnotežu" do dodataka za smanjenje nadutosti, a sve se pakira u formu sočnih tračeva.

Gotovo ih je nemoguće prepoznati

"U okruženju u kojem vlada nepouzdane informacije, zlouporaba umjetne inteligencije cvjeta. Ovo nije ništa novo, podsjeća na tabloide i njihove štetne savjete o dijetama iz ranih 2000-ih, samo što je tehnologija danas ciljano usmjerena i puno prisutnija", objašnjava Winters.

>>Od 18+ sadržaja do političke manipulacije: Zašto su deepfakeovi opasniji nego ikad?

Studija iProova provedena ove godine pokazala je da je samo 0,1 % od 2000 ispitanika uspjelo točno razlikovati deepfake od stvarnog sadržaja.

"Do prije nekoliko mjeseci mogli ste primijetiti neprirodno treptanje, nesinkroniziran govor ili čudnu pozadinu. Danas ti znakovi gotovo nestaju", upozorava Tina Nikoukhah iz digitalno-sigurnosnog startupa GetReal. "Zato su takvi videi toliko uspješni – ljudi često ne primijete da gledaju AI sadržaj i povjeruju da dobivaju prave savjete, što dodatno potiče opsesiju mršavošću i izgledom."

Tko je odgovoran za poplavu lažnog sadržaja?

Nikoukhah savjetuje korisnicima da ne gledaju samo u vizualne detalje videa, već da provjere i širi kontekst – primjerice, mogu napraviti obrnuto pretraživanje slika kako bi pronašli izvor snimke. No i ta metoda ima svoja ograničenja, osobito kad AI oponaša stvarne ljude. Tako je prošle godine lažni deepfake video u kojem Taylor Swift "reklamira" posuđe uspio prevariti brojne obožavatelje.

"Sintetički avatari omogućuju stvaranje beskrajnih 'savršenih' glasnogovornika koji nikad ne stare, rade bez prestanka i mogu se prilagoditi svakom trendu", kaže Nikoukhah.

I dok AI napreduje velikom brzinom, jedno je sigurno – ne treba očekivati da će društvene mreže jasno označavati sadržaj generiran umjetnom inteligencijom. Na to nisu zakonski obvezne. "To bi trebao biti minimum, a platforme to ne rade", upozorava tvrtka Reality Defender. TikTok doduše od kreatora traži označavanje AI sadržaja, ali videi koji su navedeni gore, takvu oznaku nisu imali.

Regulacija gotovo ne postoji

Sjedinjene Države trenutačno nemaju sveobuhvatan zakon koji regulira razvoj i upotrebu umjetne inteligencije. Kritičari upozoravaju da takav pristup ostavlja tvrtkama "slobodne ruke" za stvaranje potencijalno štetnih proizvoda.

"Potrošači su trenutačno u najgorem mogućem položaju. Imaju vrlo malo zaštite privatnosti i gotovo nikakvu regulaciju AI-a. To je kao da ste kompanijama dali bjanko ček da rade što žele, bez ikakve odgovornosti", zaključuje Winters.