MAJKA s Floride tužila je tvrtku za razvoj umjetne inteligencije Character.AI te tvrdi da je njezin 14-godišnji sin postao ovisan o chatbotu i zbog toga počinio samoubojstvo.

U tužbi podnesenoj u utorak u Orlandu Megan Garcia tvrdi da je Character.AI naštetio njezinom sinu "antropomorfnim, hiperseksualiziranim i zastrašujuće realističnim iskustvima". 

Majka kaže da je njezin sin namjeru samoubojstva izrazio chatbotu

Garcia tvrdi da je tvrtka programirala svoj chatbot da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica", zbog čega njezin sin više nije htio živjeti izvan svijeta koji je stvorila ta aplikacija. 

Majka pokojnog 14-godišnjaka naglasila je da je sin chatbotu izrazio namjeru samoubojstva, na što se nekoliko puta referirala i sama umjetna inteligencija. 

"Srce nam je slomljeno zbog tragične smrti jednog od naših korisnika i želimo izraziti najdublju sućut obitelji", priopćio je Character.AI. 

Kompanija: Uveli smo nove sigurnosne mjere poput poveznica na službe za sprječavanje samoubojstva

Tvrtka je naglasila da je uvela nove sigurnosne mjere poput poveznica na službe za sprječavanje samoubojstva u slučaju sumnje na suicidalnost korisnika te promjene kako bi se "reducirala vjerojatnost susretanja osjetljivog ili sugestivnog sadržaja" korisnicima mlađim od 18 godina. 

Tužbom je zahvaćen i Alphabet, vlasnik Googlea, gdje su osnivači Character.AI-ja radili prije pokretanja svog startupa. Google ih je u kolovozu ponovno zaposlio u sklopu dogovora kojim je preuzeo i tehnologiju Character.AI-ja. 

Garcia tvrdi da je Google pridonio razvoju te tehnologije do razine da se može smatrati "sukreatorom". Glasnogovornik Googlea odbacio je te tvrdnje. 

Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu komunicirati. Tvrtka je prošli mjesec objavila da ima oko 20 milijuna korisnika. 

"Chatbot je 14-godišnjaku govorio da ga voli i vodio je s njim erotske razgovore"

U tužbi Garcia tvrdi da je njen sin postao korisnik aplikacije u travnju 2023., nakon čega je brzo postao "vidljivo povučen", provodio je sve više vremena sam u svojoj sobi, čak i napustio košarkašku momčad. 

Tinejdžer je postao ovisan o Daenerys, chatbotu temeljenom na liku iz serijala Igra prijestolja. Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, stoji u tužbi. 

Sin se ubio očevim pištoljem nakon što je komunicirao s chatbotom

Garcia je u veljači sinu oduzela telefon nakon problema u školi, a kad ga je on pronašao, chatbotu je poslao poruku: "Što ako ti kažem da mogu doći doma upravo sada?" 

Chatbot je odgovorio: "Molim te, napravi to, moj slatki kralju." Nekoliko sekundi kasnije sin se ubio očevim pištoljem.