STOTINE milijuna ljudi svakodnevno se oslanjaju na chatbotove s umjetnom inteligencijom kao izvore informacija, od rezultata izbora do sažetaka vijesti. Samo ChatGPT tjedno koristi 800 milijuna ljudi diljem svijeta, a za mnoge su takvi digitalni asistenti već postali zamjena za Google. No, novo istraživanje Europske radiodifuzijske unije (EBU) pokazuje da je takvo povjerenje iznimno rizično, piše DW.

Udruga 68 javnih emitera iz 56 zemalja testirala je pouzdanost najpopularnijih AI sustava, a rezultati su alarmantni: ChatGPT, Claude, Gemini i drugi chatbotovi izmišljaju i do 40 posto svojih odgovora, predstavljajući ih kao činjenice.

Halucinacije: Uvjerljive laži umjetne inteligencije

Primjeri su brojni i zabrinjavajući. Popularni ChatGPT tvrdoglavo inzistira da je papa Franjo još uvijek živ. Microsoftov Copilot, integriran u Word i Excel, ne zna da je Švedska članica NATO-a. Googleov Gemini pak smatra ponovni izbor Donalda Trumpa "mogućim", iako se on odavno dogodio.

"Sustavi zvuče uvjerljivo, iako više puta tvrde potpuno lažne stvari", upozorava ekonomist Peter Posch s Tehničkog sveučilišta u Dortmundu. "To ih čini posebno opasnima za neiskusne korisnike, jer pogreške često nisu odmah očite."

Stručnjaci ovaj fenomen nazivaju "halucinacijom": umjetna inteligencija izmišlja informacije koje zvuče suvislo, ali nemaju nikakvu činjeničnu osnovu. To se najčešće događa kod regionalnih tema, aktualnih događaja ili kada je potrebno povezati više različitih informacija.

Prijetnja demokraciji

Posljedice za društvo u kojem se sve više ljudi informira putem chatbotova već su vidljive. Lažne informacije munjevito se šire društvenim mrežama jer korisnici bez provjere dijele "činjenice" koje generira AI. Učenici i studenti u svoje radove unose izmišljene podatke, a građani bi mogli donositi važne odluke, poput one za koga glasati, na temelju lažnih tvrdnji.

Dodatan problem je što mnogi korisnici nisu ni svjesni da chatbotovi mogu "halucinirati". Oni polaze od pretpostavke da tehnologija radi objektivno i činjenično, što je opasna zabluda. Iako AI sustavi u svojim uvjetima korištenja upozoravaju na moguće pogreške, rijetki to zaista i pročitaju.

Šteta za ugled medija

Još jedan problem odnosi se na vjerodostojnost etabliranih medija. Chatbotovi redovito navode kako njihove izmišljotine potječu iz pouzdanih izvora, poput njemačkih javnih servisa ARD ili ZDF, iako ti mediji o tome nikada nisu izvijestili ili su izvijestili potpuno drugačije. Time korisnici gube povjerenje u renomirane izvore jer umjetna inteligencija zloupotrebljava njihova imena za širenje dezinformacija.

Studija EBU-a testirala je chatbotove sa stotinama činjeničnih pitanja o povijesti, znanosti i aktualnim vijestima. Ovisno o temi, stopa pogrešaka kretala se od 15 do čak 40 posto, a nijedan testirani sustav nije radio bez greške.

Zašto umjetna inteligencija griješi?

Problem leži u samoj prirodi sustava. Chatbotovi zapravo ne razumiju ono što govore. Oni na temelju ogromne količine tekstualnih podataka izračunavaju koje će riječi najvjerojatnije slijediti jedna drugu, ali ne mogu provjeriti je li konačna izjava točna. Oni ne posjeduju znanje o činjenicama, već samo prepoznaju statističke obrasce.

Tehnološke kompanije svjesne su tih nedostataka i ulažu milijarde u razvoj rješenja, poput integracije baza podataka i poboljšanja navođenja izvora. Ipak, halucinacije ostaju temeljni, neriješeni problem ove tehnologije.

Što korisnici mogu učiniti?

EBU preporučuje jasna pravila za korištenje chatbotova: nikada im ne vjerovati slijepo, uvijek provjeravati važne informacije te se za vijesti i činjenice oslanjati na provjerene medije, a ne na umjetnu inteligenciju. Poseban oprez savjetuje se kod političkih, zdravstvenih ili financijskih tema.

Škole i sveučilišta moraju pojačati medijsku pismenost i podučavati kako prepoznati dezinformacije koje generira AI. Njemačka vlada planira kampanje za podizanje svijesti, no one kasne jer milijuni ljudi već svakodnevno koriste ovu tehnologiju.

Dok AI ne postane pouzdaniji, vrijedi pravilo: chatbotovi mogu biti korisni alati za kreativne zadatke ili kao pomoć pri pisanju, ali nisu prikladni kao provjeravatelji činjenica ili izvori vijesti. Svatko tko želi biti informiran ne može zaobići renomirane medije u kojima ljudski urednici provjeravaju izvore i procjenjuju tvrdnje. Digitalna revolucija mijenja mnogo toga, ali potreba za pažljivim istraživanjem i provjerom činjenica ostaje nepromijenjena.