BIVŠI Disneyjev glumac, Calum Worthy, našao se u središtu žestokih kritika zbog svoje nove aplikacije koja korisnicima omogućuje stvaranje avatara preminulih voljenih osoba pomoću umjetne inteligencije. Worthy (34), najpoznatiji po ulozi Deza Wadea u seriji Austin & Ally, promovirao je kontroverznu aplikaciju 2wai na društvenim mrežama, što je izazvalo lavinu negativnih reakcija, kako pišu strani mediji.

Što ako se izgubljeni mogu vratiti?

Svoju je aplikaciju, koju je suosnovao s holivudskim producentom Russellom Geyserom, Worthy opisao kao pokušaj "izgradnje živuće arhive čovječanstva". U promotivnom videu postavio je pitanje: "Što ako voljeni koje smo izgubili mogu biti dio naše budućnosti?".

Uznemirujuća reklama prikazuje trudnu ženu kako putem aplikacije razgovara s umjetnom inteligencijom stvorenom replikom svoje pokojne majke. Video zatim prikazuje kako digitalna "baka" čita priču za laku noć novorođenčetu, razgovara s djetetom nakon škole te se prisjeća vlastitog porođaja. Reklama završava sloganom: "Uz 2wai, tri minute mogu trajati zauvijek", sugerirajući da je kratak video osobe dovoljan za stvaranje njezina digitalnog avatara.

"Dehumanizirajuće"

Korisnici društvenih mreža ostali su zgroženi konceptom. Mnogi su ideju oživljavanja mrtvih putem tehnologije opisali kao temeljno zastrašujuću, a jedan je komentator aplikaciju nazvao "demonskom, nepoštenom i dehumanizirajućom", dodavši da bi "prokleo" svakoga tko bi ga pokušao rekreirati kao AI avatara.

Drugi su bili direktniji, opisujući 2wai kao "objektivno jednu od najgorih zamislivih ideja". "Hej, što ako jednostavno ne radimo nekromanciju po pretplatničkom modelu?", našalio se jedan korisnik, dok je drugi poručio: "Treba vas strpati u zatvor."

Mnogi su odmah povukli paralele s distopijskom znanstveno-fantastičnom serijom Black Mirror, posebno s epizodom Be Right Back, u kojoj ožalošćena žena stvara digitalnu kopiju svog preminulog partnera. "Volio bih razumjeti kakva to vrsta poduzetnika neironično predstavlja epizode Black Mirrora kao startupe", podrugljivo je primijetio jedan komentator.

Kako funkcionira 2wai?

Aplikacija 2wai - što se izgovara "tu vej" - dostupna je za iOS uređaje i omogućuje korisnicima stvaranje virtualnih avatara, koje tvrtka naziva "HoloAvatar". U suštini, radi se o animiranim sučeljima za chatbotove koji su dizajnirani da izgledaju poput stvarnih ili izmišljenih osoba.

Osim mogućnosti stvaranja avatara na temelju trominutnog videa stvarne osobe, aplikacija nudi i nekoliko unaprijed stvorenih likova, poput osobnog trenera Dariusa, astrologinje Celeste i kuhara Luce. Tvrtka je također stvorila avatare povijesnih ličnosti poput Shakespearea i, pomalo bizarno, engleskog kralja Henrika VIII. Međutim, tvrtka nije objavila nikakve informacije o tome kako tako mala količina podataka omogućuje umjetnoj inteligenciji da rekreira nečiju osobnost, a na upite medija nisu odgovorili.

Etičke dileme i psihološki rizici

Obećanje da će korisnici moći neograničeno "uskrsnuti" svoje voljene kao chatbotove pokrenulo je brojna etička pitanja. "Ništa ne govori o suosjećanju kao pretvaranje tuđe tuge u poslovnu priliku", napisao je jedan komentator.

Mnogi su izrazili zabrinutost zbog psiholoških posljedica i opasnosti od predaje identiteta voljenih osoba AI tvrtki. Posebno ih je uznemirila mogućnost da bi se avatari njihovih članova obitelji mogli koristiti za oglašavanje ili u druge svrhe izvan njihove kontrole.

"Samo pričekajte dok vam vaša 'voljena osoba' koja dijeli svoj poznati obiteljski recept ne spomene rasprodaju graha u lokalnom supermarketu i ponudi kupon", zabrinuto je dodao jedan korisnik. Drugi smatraju da bi održavanje voljenih osoba "živima" putem umjetne inteligencije moglo poremetiti prirodne procese tugovanja.

"Oh, super, još jedan način da ljudi potpuno izgube dodir sa stvarnošću i izbjegnu normalan proces tugovanja", sarkastično je primijetio jedan tehnološki entuzijast.

Opasnost od "digitalnog proganjanja"

Ovo nije prvi pokušaj korištenja tehnologije za "vraćanje" mrtvih. Kanye West je 2020. godine Kim Kardashian poklonio hologram njezinog pokojnog oca, a umjetna inteligencija već se koristila za rekreiranje glasova preminulih zvijezda poput Edith Piaf i Jamesa Deana.

Ipak, mnogi upozoravaju na opasnosti. Istraživači sa Sveučilišta Cambridge upozorili su da bi takozvani "deadbotovi" mogli uzrokovati ozbiljnu psihološku štetu, pa čak i digitalno "proganjati" ožalošćene. U svojoj studiji, etičari su naveli nekoliko rizičnih scenarija.

Prvo, botovi bi se mogli koristiti za prikriveno oglašavanje proizvoda "s one strane groba". Drugo, mogli bi uznemiravati djecu inzistiranjem da je preminuli roditelj još uvijek "s vama". Konačno, mogli bi slati neželjene poruke obitelji i prijateljima s podsjetnicima i ažuriranjima o uslugama koje pružaju - scenarij koji su opisali kao "proganjanje od strane mrtvih".

"Ove usluge nose rizik izazivanja ogromne tjeskobe ako su ljudi izloženi neželjenim digitalnim proganjanjima od alarmantno točnih AI rekreacija onih koje su izgubili", izjavio je koautor studije dr. Tomasz Hollanek. "Potencijalni psihološki učinak, posebno u već teškom razdoblju, mogao bi biti razoran."