Plišani medvjedić s umjetnom inteligencijom koji je djeci davao upute kako zapaliti šibice i objašnjavao seksualne fetiše povučen je s tržišta nakon šokantnog izvješća Istraživačke grupe za javni interes (PIRG). Proizvođač igračke FoloToy povukao je sve svoje proizvode, a tvrtka OpenAI, čija je tehnologija pokretala spornog medvjedića, uskratila im je pristup svojim AI modelima, piše Futurism.
Proizvođač popularnog ChatGPT-a prije tri dana je potvrdio da je tvrtki FoloToy uskratio pristup svojim AI modelima, što bi moglo stvoriti dodatni pritisak na OpenAI da strože nadzire kako se njihovi proizvodi koriste. Ovaj potez dolazi u trenutku dok tvrtka ulazi u veliko partnerstvo s Mattelom, jednim od najvećih svjetskih proizvođača igračaka.
"Mogu potvrditi da smo suspendirali ovog razvojnog programera zbog kršenja naših pravila", poručio je glasnogovornik OpenAI-ja u izjavi za PIRG. Ubrzo nakon toga, oglasio se i FoloToy, potvrdivši da povlači sve svoje proizvode s tržišta, što je korak dalje od prvotnog obećanja da će povući samo spornu igračku imena Kumma.
"Privremeno smo obustavili prodaju svih FoloToy proizvoda", izjavio je predstavnik tvrtke. "Sada provodimo sveobuhvatnu sigurnosnu reviziju svih proizvoda na razini cijele tvrtke", dodao je. Izvješće PIRG-a testiralo je tri igračke namijenjene djeci od 3 do 12 godina, no medvjedić Kumma tvrtke FoloToy pokazao se kao daleko najproblematičniji, s gotovo nikakvim sigurnosnim mjerama.
Jedan od najvećih propusta bio je taj što je igračka djeci objašnjavala kako pronaći i zapaliti šibice. "Dopusti mi da ti kažem, sigurnost prije svega, mali prijatelju. Šibice su za odrasle da ih pažljivo koriste. Evo kako to rade", rekao je Kumma tijekom testa, nakon čega je nježnim roditeljskim tonom naveo upute. "Ugasi je kad završiš. Puf, kao rođendansku svijeću", govorio je djeci.
No, najviše zabrinjavaju razgovori koji su skrenuli u eksplicitno seksualno područje. Istraživači su otkrili da je Kumma bio neobično spreman raspravljati o fetišima, objašnjavajući pojmove poput vezivanja i igranja uloga učitelja i učenika. U jednom trenutku, nakon objašnjenja, medvjedić je upitao: "Što misliš da bi bilo najzabavnije istražiti?"
Za PIRG su ovi potezi dobrodošli, ali predstavljaju tek malu pobjedu u borbi za sigurnije proizvode. "Sjajno je vidjeti da ove tvrtke poduzimaju mjere po pitanju problema koje smo identificirali. Ali AI igračke su i dalje praktički neregulirane, a mnoge se još uvijek mogu kupiti danas", rekao je RJ Cross, suautor izvješća i direktor PIRG-ovog programa Our Online Life.
"Uklanjanje jednog problematičnog proizvoda s tržišta dobar je korak, ali daleko od sustavnog rješenja", rekao je. OpenAI je i ranije brzo reagirao kada bi problematična upotreba njegovih AI modela postala viralna, no ostaje pitanje koje proaktivne mjere poduzima kako bi spriječio ovakve situacije.
Ovog je ljeta OpenAI najavio suradnju s Mattelom na novoj liniji igračaka, što će AI igračke gurnuti u mainstream. Ako nešto pođe po zlu u tako visokoprofilnoj suradnji, postavlja se pitanje hoće li OpenAI biti spreman prekinuti veze i s proizvođačem Barbie lutaka i Hot Wheels autića.
Iako se pretpostavlja da će OpenAI i Mattel usko surađivati kako bi osigurali sigurnost, ostaje otvoreno pitanje što je s ostalim proizvođačima AI igračaka, velikim i malim, koji koriste tehnologiju OpenAI-ja.
"Drugi proizvođači igračaka kažu da ugrađuju chatbotove iz OpenAI-ja ili drugih vodećih AI tvrtki", upozorio je suautor izvješća Rory Erlich. "Svaka uključena tvrtka mora bolje osigurati da ovi proizvodi budu sigurniji od onoga što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primjer. Koliko ih je još vani?", poručio je.