OPENAI je prekinuo pristup svom API-ju inženjeru koji je navodno koristio firmin Realtime API za stvaranje robotske puške koja bi mogla odgovarati na glasovne naredbe.

Čovjek koji se na internetu predstavlja kao STS 3D objavio je viralni video u kojem naređuje robotu: "ChatGPT, napadnuti smo s prednje lijeve i prednje desne strane. Reagiraj u skladu s tim." Robot tada, čini se, ispaljuje ćorke iz puške u lijevu i desnu stranu, a zatim govori: "Ako vam treba dodatna pomoć, samo mi recite."

"Barem tri filma objašnjavaju da je ovo loša ideja"

Jedan korisnik na društvenoj mreži Reddit komentirao je: "Postoje barem tri filma koja objašnjavaju zašto je ovo loša ideja."

Glasnogovornik OpenAI-ja rekao je za Futurism, koji je prvi izvijestio o vijesti, da su "proaktivno identificirali ovo kršenje pravila i obavijestili programera da odmah prekine ovu aktivnost".

"Pravila korištenja OpenAI-ja zabranjuju korištenje naših usluga za razvoj ili korištenje oružja ili automatizaciju određenih sustava koji mogu utjecati na osobnu sigurnost", dodali su iz OpenAI-ja.

Čovjek koji stoji iza ovog mitraljeza nije se oglasio

Objavljen u javnoj beta verziji u listopadu, OpenAI-jev Realtime API omogućuje programerima stvaranje razgovora pomoću šest unaprijed postavljenih glasova, potencijalno pojednostavljujući razvoj jezičnih aplikacija, softvera za obrazovanje i korisničku podršku. Temelji se na verziji GPT-4 koja pokreće napredni glasovni način u ChatGPT-ju.

STS 3D nije pružio nikakve informacije o tome kako je integrirao Realtime API s puškom niti je pojasnio je li zaobišao sigurnosne kontrole OpenAI-ja povezane s ovakvim aktivnostima.