LAŽNI video o državnom udaru u Parizu, stvoren umjetnom inteligencijom, postao je viralan i zadao probleme francuskom predsjedniku Emmanuelu Macronu. Snimka, koja je prikupila više od 12 milijuna pregleda, prikazuje navodno svrgavanje Macrona, a on je za nju saznao od zabrinutog kolege, piše Euronews.

Sve je počelo zabrinutom porukom koju je primio od jednog afričkog kolege. U poruci se nalazila poveznica na snimku koja je prikazivala državni udar u Francuskoj.

"U nedjelju mi se javio jedan od mojih afričkih kolega i napisao 'Dragi predsjedniče, što vam se događa? Jako sam zabrinut'", ispričao je Macron čitateljima francuskih lokalnih novina La Provence u utorak.

Priloženi video prikazivao je helikopter u letu, vojno osoblje, gomilu ljudi i voditeljicu vijesti koja se obraća kameri. 

"Neslužbeni izvještaji sugeriraju da je u Francuskoj došlo do državnog udara, predvođenog pukovnikom čiji identitet nije otkriven, uz mogući pad Emmanuela Macrona. Međutim, vlasti nisu izdale jasnu izjavu", govori voditeljica u videu.

Problem je, međutim, u tome što ništa u videu nije bilo autentično. Snimka je u potpunosti stvorena pomoću umjetne inteligencije (AI).

"Ljudi iz Mete nam se rugaju"

Nakon što je vidio snimku, Macron je zatražio od Pharosa, francuskog službenog portala za prijavu nezakonitog internetskog sadržaja, da kontaktira Metu, vlasnika Facebooka, kako bi se lažni video uklonio. No, taj je zahtjev odbijen s obrazloženjem da video ne krši platformina "pravila korištenja".

Francuski predsjednik tada je odlučio osobno preuzeti inicijativu.

"Sklon sam misliti da imam više moći za vršenje pritiska od drugih ljudi", rekao je Macron. "Ili, bolje rečeno, da je lakše reći da je nešto ozbiljno ako ja zovem, ali to ne funkcionira."

"Ti ljudi nam se rugaju", dodao je. "Nije ih briga za javne rasprave, nije ih briga za demokraciju, i stoga nas dovode u opasnost."

Tko stoji iza lažnih videa?

Originalni video, koji je brzo prikupio više od 12 milijuna pregleda, objavljen je s Facebook računa pod nazivom "Islam", koji, unatoč imenu, ne objavljuje vjerski sadržaj. Iza računa stoji tinejdžer iz Burkine Faso koji zarađuje na tečajevima o monetizaciji sadržaja stvorenog umjetnom inteligencijom.

Video je na kraju uklonjen, više od tjedan dana nakon objave. 

Kako bi se povećala vjerodostojnost, u nekim se videozapisima mogu vidjeti voditelji vijesti generirani umjetnom inteligencijom kako drže mikrofon s logom Radija France Internationale (RFI). Neki od videa nose i vodeni žig "Sora", što upućuje na to da je velik dio sadržaja vjerojatno proizveden upravo tom tehnologijom.

Sora 2, koju je razvio OpenAI, ista tvrtka koja stoji iza Chat GPT-ja, omogućuje korisnicima stvaranje hiperrealističnih videozapisa u trajanju od 10 sekundi na temelju tekstualnih upita. 

Od svog lansiranja u listopadu, ova je tehnologija izazvala brojne kontroverze, dovodeći do širenja vrlo sofisticiranih AI videozapisa na društvenim mrežama koje je iznimno teško prepoznati kao lažne.