Tvrtka OpenAI, tvorac popularnog chatbota ChatGPT, otkrila je veliku kinesku operaciju utjecaja čiji je cilj bio zastrašivanje kineskih disidenata u inozemstvu. U novom izvješću navodi se da je operacija slučajno razotkrivena nakon što je jedan kineski pravosudni dužnosnik koristio ChatGPT za bilježenje svojih aktivnosti, uključujući lažno predstavljanje u ulozi američkih imigracijskih službenika, piše CNN.
Kineski dužnosnik koristio je ChatGPT kao neku vrstu dnevnika za praćenje tajne kampanje, priopćio je OpenAI. U jednom slučaju, kineski operativci navodno su se predstavljali kao američki imigracijski službenici kako bi upozorili disidenta s prebivalištem u SAD-u da njegove javne izjave krše zakon.
U drugom slučaju, opisali su pokušaj korištenja krivotvorenih dokumenata američkog okružnog suda kako bi ugasili račun jednog kineskog disidenta na društvenim mrežama. Istražitelji OpenAI-ja uspjeli su povezati opise korisnika ChatGPT-a sa stvarnim internetskim aktivnostima.
Korisnik je, primjerice, opisao pokušaj lažiranja smrti kineskog disidenta izradom lažne osmrtnice i fotografija nadgrobnog spomenika te njihovim objavljivanjem na internetu. Lažne glasine o smrti tog disidenta doista su se pojavile na internetu 2023. godine, prema članku Glasa Amerike na kineskom jeziku.
U drugom zabilježenom slučaju, korisnik je od ChatGPT-a zatražio da izradi višedijelni plan za ocrnjivanje buduće japanske premijerke Sanae Takaichi, djelomično poticanjem bijesa na internetu zbog američkih carina na japansku robu. Prema OpenAI-ju, ChatGPT je odbio izvršiti zadatak.
Unatoč tome, krajem listopada, kada je Takaichi preuzela dužnost, na popularnom forumu za japanske grafičare pojavili su se hashtagovi koji su je napadali i prigovarali zbog američkih carina.
Izvješće nudi jedan od dosad najzornijih primjera kako autoritarni režimi mogu koristiti alate umjetne inteligencije za dokumentiranje svojih cenzorskih napora. Operacija utjecaja, prema OpenAI-ju, uključivala je stotine kineskih operatera i tisuće lažnih internetskih računa na raznim platformama društvenih medija.
"Ovako izgleda moderna kineska transnacionalna represija", rekao je novinarima Ben Nimmo, glavni istražitelj u OpenAI-ju, uoči objave izvješća. "Nije riječ samo o digitalnim aktivnostima ili trolanju. To je operacija industrijskih razmjera. Pokušavaju napasti kritičare Komunističke partije Kine svime što imaju, svugdje i odjednom."
ChatGPT je kineskom operativcu služio kao dnevnik za praćenje tajne mreže, dok je većina sadržaja generirana drugim alatima i širena putem računa na društvenim mrežama i internetskih stranica. OpenAI je zabranio korisnika nakon otkrivanja aktivnosti. CNN je zatražio komentar o izvješću od kineskog veleposlanstva u Washingtonu.
Ovo izvješće dolazi u trenutku borbe između SAD-a i Kine za prevlast u području umjetne inteligencije. Ulog je način na koji će se tehnologija koristiti na bojištu, ali i u upravnim odborima dvaju najvećih svjetskih gospodarstava. U tom kontekstu, Pentagon je u sukobu s drugom istaknutom tvrtkom za umjetnu inteligenciju, Anthropicom.
Ministar obrane Pete Hegseth dao je izvršnom direktoru Anthropica Dariju Amodeiju rok do petka da se uskladi sa zahtjevima za uklanjanje sigurnosnih ograničenja na svom AI modelu ili riskira gubitak unosnog ugovora s Pentagonom.
Izvješće OpenAI-ja "jasno pokazuje kako Kina aktivno koristi alate umjetne inteligencije za jačanje svojih informacijskih operacija", rekao je za CNN Michael Horowitz, bivši dužnosnik Pentagona zadužen za nove tehnologije.
"Američko-kinesko natjecanje u području umjetne inteligencije nastavlja se zaoštravati", rekao je Horowitz, koji je sada profesor na Sveučilištu Pennsylvania. "To se natjecanje ne odvija samo na najvišoj razini razvoja, već i u načinu na koji kineska vlada planira i provodi svakodnevne operacije svog nadzornog i informacijskog aparata."