UMJETNA inteligencija sve više pomaže u poboljšanju brojnih javnih usluga, no moramo voditi računa o temeljnim ljudskim pravima kod korištenja takvih tehnologija. Jedino tako možemo osigurati ljudski orijentiranu digitalnu transformaciju.

Gianluca Misuraca jedan je od vodećih svjetskih stručnjaka za tehnološku diplomaciju. Njegova vizija je da digitalne tehnologije, posebno umjetna inteligencija, pomažu ljudima. Pritom ključnu ulogu imaju i nacionalne vlade koje će trebati koristiti AI kako bi poboljšale javne usluge, ali i spriječile rizike poput narušavanja etičnosti koje AI može donijeti.

O ovoj temi moći ćemo slušati iz prve ruke 4. studenoga kada će Misuraca, osnivač i potpredsjednik odjela za tehnološku diplomaciju u tvrtki Inspiring Futures, gostovati na konferenciji Span Cyber Security Arena u Zagrebu. Ususret konferenciji, imali smo priliku porazgovarati s Gianlucom Misuracom o budućnosti javnog sektora i njegove uloge u balansiranju između tehnološkog napretka i zaštite temeljnih ljudskih prava.

Svijet se drastično promijenio u posljednjih nekoliko godina, a umjetna inteligencija postala je sastavni dio donošenja ključnih odluka u mnogim vladama. Kako ocjenjujete utjecaj AI sustava na donošenje odluka u javnom sektoru?

Svijet kakav smo poznavali prije pet ili deset godina uvelike se promijenio, a fragmentiran kibernetički prostor, s hibridnim ratovima i bitkama za suverenitet podataka diljem svijeta, dominira našim životima. Danas kreatori politika djeluju u brzo mijenjajućem tehnološkom krajoliku i rastućim geopolitičkim napetostima, što ih tjera prema vrlo zahtjevnom zadatku digitalnog upravljanja. Pandemija Covida-19 dodatno je ubrzala ovaj proces, jer su vlade morale brzo prijeći na digitalne metode rada i pružanja javnih usluga. AI sustavi su danas sastavni dio mnogih ključnih odluka vlada, a postoji široka upotreba sustava automatskog donošenja odluka u mnogim zemljama diljem svijeta, primjerice u podršci pružanju socijalnih beneficija ili drugih usluga. Ovi sustavi pomažu vladama u obradi velikih količina podataka i omogućuju efikasnije pružanje usluga građanima. No, s povećanjem upotrebe AI-a javlja se i niz etičkih izazova i pitanja o pravednosti.

Često spominjete paradoks diskriminacije "po defaultu" kod AI-a, gdje prediktivni algoritmi mogu pogoršati društvene predrasude i pristranosti. Kako se nositi s tim problemom? Koje su opasnosti koje bi AI mogao donijeti u sustave kontrole?

Paradoks diskriminacije po defaultu znači da AI može omogućiti bolje prikupljanje podataka i pomoći u stvaranju znanja i rješenja primjenom naprednih prediktivnih analiza, ali često intenzivira i društvene predrasude i pristranosti. Ovaj efekt se zbog manjka transparentnosti naziva i "crnom kutijom" AI sustava jer prediktivni algoritmi, iako korisni, mogu biti skloni pogreškama i dovesti do štetnih upotreba koje povećavaju opasnost od masovnog nadzora, čak i u demokratskim zemljama. I tako dolazimo do situacije da se kreatori politika, zajedno s cjelokupnom populacijom i ključnim zainteresiranim skupinama, od akademske zajednice i vlade do industrije i civilnog društva, suočavaju s dilemom, odnosno čak i trilemom čije će rješenje, ako uopće postoji ,utjecati na oblikovanje budućeg društva. Riječ je o trilemi upravljanja umjetnom inteligencijom, upravljanja uz umjetnu inteligenciju i upravljanja koje vodi umjetna inteligencija.

Možete li nam pobliže pojasniti te tri razine koje spominjete?

Prva razina je upravljanje umjetnom inteligencijom, gdje AI ne smije nadvladati postojeće mehanizme upravljanja i treba osigurati da institucionalne prepreke budu adresirane. Druga razina je upravljanje pomoću AI-a, gdje ljudi zadržavaju kontrolu nad tehnologijama, štite ljudska prava i primjenjujući AI etički. Treća razina je upravljanje koje vodi AI, gdje se pojavljuje prava moć, ali i rizik od toga da ljudski donositelji odluka prepuste previše kontrole "nadljudskim" sposobnostima AI-a. Samo kombinacijom ove tri razine možemo osigurati ljudski centriranu digitalnu transformaciju.

Kako tehnološka diplomacija može pomoći u rješavanju izazova koje postavlja primjena AI-a u javnom sektoru?

Tehnološka diplomacija ključna je za uspostavljanje globalnih pravila i suradnje koja omogućuje etičku upotrebu AI tehnologije. Ona pomaže osigurati da tehnologija, posebice AI, bude u službi ljudi, a ne izvor rizika. To se može postići stvaranjem međunarodnih saveza, poput EU inicijativa usmjerenih na ljudski orijentiranu umjetnu inteligenciju, te razvojem globalnih standarda za interoperabilnost i dijeljenje podataka​. Upravo kroz tehnološku diplomaciju mogu se osigurati mehanizmi zaštite ljudskih prava i temeljnih sloboda u svijetu sve većih cyber prijetnji i brze tehnološke ekspanzije.

Često navodite potrebu za preoblikovanjem načina na koji se pružaju usluge, upravlja podacima i kako se donose odluke. Koji su glavni izazovi u ovom procesu digitalne transformacije u javnom sektoru?

Kako bismo postigli uspješnu digitalnu transformaciju, moramo biti spremni nositi se s poremećajima i eksperimentirati s AI-om. To znači, ne samo tehničke promjene, već i radikalnu promjenu načina na koji se pružaju usluge, upravlja podacima i donose odluke na temelju algoritama. Stoga je potrebno kreirati novi model upravljanja koji obuhvaća, ne samo administrativne, pravne i regulatorne aspekte, već i kulturne i kognitivne aspekte digitalne transformacije.

Izgleda kao da ste postavili gotovo nemoguć zadatak za javnu upravu. Koliko je moguće provesti takav pristup kroz javnu upravu koja je u brojnim zemljama često izazovno područje za bilo kakve zahtjevnije transformacije?

Ovdje su ključni ljudi, naravno. Da bi digitalno upravljanje bilo uspješno, potreban je visoko kvalificiran kadar u javnom sektoru kako bi se osigurala učinkovitost, transparentnost i revizija AI sustava i podataka. Stoga je edukacija javnih službenika i kreatora politika u području AI-ja neophodna. Potrebno je stvarati "funkcionalne stručnjake" koji mogu učinkovito i održivo koristiti AI tehnologije. Na primjer program AI4GOV, sufinanciran od strane EU i implementiran od strane Sveučilišta Politécnica de Madrid (UPM) i Politecnico di Milano (POLIMI), pomaže u stvaranju stručnjaka u ovom području. Nova inicijativa koju ću imati čast voditi, AI4GOV Accelerate (AI4GOV-X) počinje 2025. godine i ima proračun od oko 20 milijuna eura, dodatno će potaknuti razvoj naprednih digitalnih vještina u području umjetne inteligencije, podatkovnih prostora i digitalne transformacije za digitalno upravljanje u javnom sektoru.

Jesu li za osnaživanje modela digitalnog upravljanja važni još neki akteri i politike i izvan sektora javne uprave? Često spominjete važnost interoperabilnosti i međunarodne suradnje za uspješnu primjenu AI tehnologije, kako u društvu, tako i u segmentu javne uprave o kojoj govorimo.

Tako je, međunarodna suradnja i interoperabilnost su ključne za uspješan razvoj AI-a. Kao što je bivši europski povjerenik Johannes Hahn istaknuo, AI može biti prekretnica za javne uprave, ali da bi to postala stvarnost, moramo definirati zajedničke tehničke standarde i smjernice za dijeljenje podataka i upravljanje rizicima. Suočavanje s rizicima i potencijalima korištenja AI-a u javnom sektoru ključna je komponenta strateškog okvira EU-a za vođenje digitalnog desetljeća i postizanje održivog razvoja.

I zato je tehnološka diplomacija, u kombinaciji s novim modelima digitalnog upravljanja, ključ za osiguravanje da umjetna inteligencija bude moćan alat u službi čovječanstva, ali i da se smanje rizici koje donosi njena neetička primjena. Samo uz koordiniranu međunarodnu suradnju i jasno definirane standarde, možemo stvoriti globalni digitalni prostor koji je siguran, inkluzivan i usmjeren na dobrobit svih građana.