NJEMAČKA policija izdala je upozorenje muškarcima zbog nove internetske prijevare koja koristi lažne, umjetnom inteligencijom stvorene fotografije atraktivnih policajki. Na društvenim mrežama pojavio se velik broj profila s deepfake slikama žena u policijskim uniformama, a cilj je namamiti korisnike na stranice s plaćenim sadržajem.

Slike generirane umjetnom inteligencijom prikazuju mlade i privlačne žene u uskim policijskim odorama, često u provokativnim pozama. Na jednoj od fotografija plavuša pozira s otkopčanom jaknom, dok druga prikazuje ženu u uniformi koju netko navodno fotografira s leđa.

Policija iz Hamburga, gdje je problem najizraženiji, potvrdila je da se takvi profili koriste kako bi naveli korisnike, prvenstveno muškarce, da kliknu na poveznice koje vode do web stranica na kojima se naplaćuje pristup dodatnim, realističnim AI slikama.

Odlučan odgovor policije

Hamburška policija oglasila se službenim priopćenjem, ističući ozbiljnost situacije. "Primamo sve više izvješća o AI-generiranim profilima na društvenim mrežama koji navodno prikazuju kolegice hamburške policije", stoji u priopćenju.

Glasnogovornik Florian Abbenseth dodao je: "Takvi profili štete ugledu policije, zbog čega poduzimamo odlučne mjere protiv njih." Potvrđeno je da policija ne vodi privatne Instagram profile za svoje službenike te se već razmatraju pravni koraci protiv kreatora lažnog sadržaja. Ujedno su pozvali korisnike da prijave sve sumnjive profile.

Deepfake kao globalna prijetnja

Ovaj slučaj samo je jedan primjer rastuće opasnosti koju predstavlja deepfake tehnologija. Korištenje uvjerljivih, ali potpuno lažnih slika i videozapisa postalo je velik rizik za tvrtke, organizacije i pojedince. Ranije ove godine, Međunarodna telekomunikacijska unija Ujedinjenih naroda (ITU) pozvala je tehnološke tvrtke na korištenje naprednih alata za otkrivanje dezinformacija i deepfake sadržaja u borbi protiv financijskih prijevara. ITU je preporučio da platforme poput društvenih mreža uvedu alate za digitalnu provjeru autentičnosti sadržaja prije objave.

"Povjerenje u društvene medije značajno je palo jer ljudi ne znaju što je istina, a što laž", upozorio je Bilel Jamoussi iz ITU-a.

Kako se boriti protiv lažnog sadržaja?

Borba protiv deepfakeova postala je ogroman izazov zbog brzog napretka generativne umjetne inteligencije koja može stvoriti iznimno realističan sadržaj. Leonard Rosenthol iz tvrtke Adobe, koja se ovim problemom bavi od 2019. godine, naglasio je važnost utvrđivanja izvora digitalnog sadržaja kako bi korisnici mogli procijeniti njegovu vjerodostojnost.

"Potrebno nam je više mjesta gdje korisnici konzumiraju svoj sadržaj da bi prikazali ove informacije... Kada pregledavate svoje feedove, želite znati: 'mogu li vjerovati ovoj slici, ovom videu...'", rekao je Rosenthol, ističući potrebu za transparentnošću.