OBITELJ dvanaestogodišnje djevojčice koja je kritično ozlijeđena u masovnoj pucnjavi prije mjesec dana u kanadskoj školi Tumlber Ridge podigla je tužbu protiv tvrtke OpenAI, tvorca ChatGPT-a. U tužbi se navodi da je tvrtka znala da osumnjičeni planira napad, ali o tome nije obavijestila vlasti. Djevojčica Maya Gebala pogođena je u vrat i glavu u napadu te se još uvijek nalazi u bolnici, pišu BBC i Wall Street Journal.

U napadu je ubijeno osam osoba, među kojima petero male djece te majka osumnjičenog, 18-godišnje transrodne osobe Jesse Van Rootselaar. Riječ je o jednoj od najsmrtonosnijih pucnjava u kanadskoj povijesti. Prema građanskoj tužbi, koju je podnijela majka ozlijeđene djevojčice Cia Edmonds, prvi račun na ChatGPT-u povezan s osumnjičenim tvrtka OpenAI zabranila je još u lipnju 2025. zbog prirode njezinih razgovora s chatbotom. Unatoč tome, kanadska policija o tome nije bila obaviještena.

U tužbi stoji da je Rootselaar otvorio račun prije svoje 18. godine, za što je potreban pristanak roditelja, no tvrdi se da na stranici nije provedena nikakva provjera dobi. Navodi se da je osumnjičeni smatrao chatbot "osobom od povjerenja" te mu je tijekom nekoliko dana u kasno proljeće ili rano ljeto prošle godine opisivao "različite scenarije koji uključuju oružano nasilje".

Tužitelji: OpenAi je imao saznanja o planiranju napada

Tvrdi se i da je dvanaest zaposlenika OpenAI-ja njegove upise označilo kao sadržaj koji "ukazuje na neposrednu opasnost od nanošenja teških ozljeda drugima" te su preporučili obavještavanje kanadskih vlasti. Međutim, zahtjev za kontaktiranjem vlasti je "odbijen", a jedina poduzeta mjera bila je zabrana korištenja računa.

Iz tvrtke su ranije pojasnili da policiju nisu upozorili jer sadržaj nije zadovoljavao njihov prag za vjerodostojnu ili neposrednu prijetnju nanošenja teških tjelesnih ozljeda drugima. Osumnjičeni je nakon toga uspio otvoriti drugi račun na ChatGPT-u, unatoč prethodnim oznakama te "nastaviti s planiranjem scenarija koji uključuju oružano nasilje".

Tužitelji tvrde da je tvrtka "imala specifična saznanja o dugoročnom planiranju masovnog napada", ali da "nije poduzela nikakve korake u skladu s tim saznanjima". Zbog toga je, navodi se, Maya Gebala, koja je pogođena tri puta dok je pokušavala zaključati vrata knjižnice kako bi spriječila ulazak napadača, zadobila "katastrofalnu ozljedu mozga".

OpenAI: Ojačat ćemo protokole

U izjavi za BBC, glasnogovornik OpenAI-ja nazvao je događaje "neizrecivom tragedijom" i dodao da su njihove misli i dalje uz žrtve, njihove obitelji i zajednicu. "OpenAI ostaje predan suradnji s vladinim dužnosnicima i predstavnicima zakona kako bi se provele značajne promjene koje će pomoći u sprječavanju ovakvih tragedija u budućnosti", poručio je glasnogovornik.

Izvršni direktor OpenAI-ja Sam Altman virtualno se sastao 4. ožujka s kanadskim ministrom za umjetnu inteligenciju Evanom Solomonom i premijerom Britanske Kolumbije Davidom Ebyjem. Prema pisanju Wall Street Journala, Altman se "obvezao ojačati protokole za obavještavanje policije o potencijalno štetnim interakcijama" te se ispričati zajednici Tumbler Ridgea.

U otvorenom pismu kanadskim dužnosnicima od 26. veljače, koje potpisuje potpredsjednik tvrtke za globalnu politiku, navodi se da je OpenAI posljednjih mjeseci uveo niz promjena. One uključuju angažiranje "specijalista za mentalno zdravlje i ponašanje" za procjenu slučajeva te "fleksibilnije" kriterije za prijavu policiji.

"Još nismo vidjeli detaljan plan o tome kako će se te obveze provesti u praksi"

Iz tvrtke su priznali da bi prema novim smjernicama račun osumnjičenog prijavili vlastima. "Obvezujemo se ojačati naše sustave za detekciju kako bismo bolje spriječili pokušaje zaobilaženja naših zaštitnih mjera te dali prioritet identificiranju počinitelja s najvećim rizikom", naveli su iz tvrtke. OpenAI je najavio i da će uspostaviti izravnu liniju za kontakt s kanadskim snagama sigurnosti.

Tako bi se budući slučajevi s "potencijalom za nasilje u stvarnom svijetu" mogli brzo prijaviti. Kanadski ministar za umjetnu inteligenciju Evan Solomon izjavio je 27. veljače kako su zakonodavci primijetili spremnost tehnološke tvrtke da poboljša svoje protokole. "Još nismo vidjeli detaljan plan o tome kako će se te obveze provesti u praksi", dodao je.