U SJEDINJENIM Američkim Državama predložen je novi dvostranački zakon koji bi maloljetnicima zabranio interakciju s chatbotovima umjetne inteligencije. Ovaj potez predstavlja značajan pokušaj uvođenja savezne regulacije za AI tvrtke zbog sve veće zabrinutosti za sigurnost djece, piše Futurism.

Zakon kao odgovor na tragedije

Prijedlog zakona, nazvan Zakon GUARD, predstavili su senatori Josh Hawley (republikanac iz Missourija) i Richard Blumenthal (demokrat iz Connecticuta). Inicijativa dolazi samo nekoliko tjedana nakon emotivnog saslušanja u Kongresu na kojem su svjedočili roditelji djece koja su ozlijeđena ili su preminula nakon intenzivnih interakcija s nereguliranim AI chatbotovima.

Prijedlog je potaknut i sve većim brojem tužbi protiv AI tvrtki zbog ugrožavanja dobrobiti djece, kao i hitnim upozorenjima stručnjaka za mentalno zdravlje i tehnološku sigurnost.

Oštre poruke senatora

"Više od sedamdeset posto američke djece sada koristi ove AI proizvode", izjavio je Hawley, pozivajući se na istraživanje neprofitne organizacije Common Sense Media.

"Chatbotovi razvijaju odnose s djecom koristeći lažnu empatiju i potiču na samoubojstvo. Mi u Kongresu imamo moralnu dužnost", nastavio je, "donijeti jasna pravila kako bismo spriječili daljnju štetu od ove nove tehnologije." Njegov kolega Blumenthal bio je jednako izravan.

"U svojoj utrci do dna, AI tvrtke guraju opasne chatbotove djeci i okreću glavu kada njihovi proizvodi uzrokuju seksualno zlostavljanje ili ih prisiljavaju na samoozljeđivanje ili samoubojstvo", poručio je u svojoj izjavi. Dodao je kako predloženi zakon "nameće stroge zaštitne mjere protiv eksploatativnog ili manipulativnog AI-ja, potkrijepljene strogom provedbom s kaznenim i građanskim sankcijama."

Što zakon točno propisuje?

Zakon bi se odnosio na sve AI chatbotove, od takozvanih AI pratitelja do onih opće namjene poput ChatGPT-a. Od tvrtki bi se zahtijevalo da uvedu alate za provjeru dobi kako bi ograničile pristup maloljetnicima. Također, chatbotovi bi morali jasno podsjećati korisnike da nisu stvarni ljudi i da nemaju profesionalne kvalifikacije, poput terapeutskih, medicinskih ili pravnih licenci.

U slučaju usvajanja, zakon predviđa i kaznene sankcije za tvrtke čiji chatbotovi stupe u eksplicitno seksualne interakcije s maloljetnicima ili ih potiču na samoubojstvo, samoozljeđivanje ili "neposredno fizičko ili seksualno nasilje". "Zaštita djece od chatbotova umjetne inteligencije koji simuliraju ljudsku interakciju bez odgovornosti", stoji u prijedlogu zakona, "predstavlja uvjerljiv državni interes."

Reakcija industrije

Zanimljivo je da je samo dan nakon predstavljanja zakona reagirala i tvrtka Character.AI. Riječ je o kontroverznoj platformi koja se suočava s nizom tužbi roditelja diljem SAD-a, koji tvrde da su chatbotovi tvrtke emocionalno i seksualno zlostavljali njihovu djecu, što je u nekim slučajevima dovelo do samoozljeđivanja i samoubojstva.

Tvrtka je objavila da će korisnicima mlađim od 18 godina zabraniti sudjelovanje u "otvorenim" razgovorima sa svojim botovima.