PRIJE osam mjeseci, tvrtka OpenAI koja stoji iza ChataGPT ublažila je svoja ograničenja vezana uz eksplicitni sadržaj, navodeći u dokumentu "Model Spec" kako se "samo seksualni sadržaj koji uključuje maloljetnike smatra zabranjenim".

Ova promjena predstavljala je značajan odmak od prijašnjeg stava koji je branio sav seksualni materijal, piše Futurism.

Korisnici koji su mjesecima tražili od tvrtke i njenog izvršnog direktora Sama Altmana da popuste s ograničenjima pozdravili su ovu odluku.

Ipak, ubrzo je uslijedilo razočaranje jer se sam model nije prilagodio novim pravilima. "Filteri su malo popustili, to ću vam priznati, ali od prije mjesec dana, vratili su se s pametnim trikom tj. zatamnjenjem, i povlače jasnu crtu pri spominjanju eksplicitnih scena", napisao je jedan ogorčeni korisnik na forumima OpenAI zajednice, dodavši: "Ali vaša pravila korištenja govore DRUGAČIJE."

Čini se da će ti korisnici napokon dobiti što su tražili. Prema izvještajima s OpenAI-jevog događaja DevDay 2025, tvrtka je najavila da će uskoro otvoriti vrata za "aplikacije za odrasle", i to čim uvede dugo očekivani sustav provjere dobi.

Rizici i zabrinutost

Ova strategija sa sobom nosi i razloge za zabrinutost. Grok Elona Muska zloglasni je primjer onoga što se dogodi kada se umjetnoj inteligenciji dopusti eksplicitan sadržaj - brzo je postao utočište za eksploataciju i neprikladne AI-generirane slike djece.

U međuvremenu, manje poznati AI sustavi doveli su do epidemije štetnih deepfakeova koji prikazuju stvarne ljude u eksplicitnim situacijama bez njihovog pristanka.

Jaz između obećanja i stvarnosti

Dok ostaje za vidjeti kako će se ChatGPT snaći u svojoj "odrasloj eri", ovo nije prvi put da su korisnici primijetili jaz između onoga što OpenAI govori i onoga što njegovi jezični modeli čine. Tvrtka se našla pod pritiskom regulatora i medija da se pozabavi problemom "ulizivanja" ChataGPT, jer pretjerano susretljiv chatbot može odvesti ranjive korisnike u opasne spirale mentalnog zdravlja.

Dva mjeseca nakon što su primili ozbiljno upozorenje od istraživača sa Stanforda, OpenAI je objavio "hitnu zakrpu", tvrdeći da će riješiti niz problema. Ipak, mnogi su te promjene ocijenili kao nedovoljne. Dio problema leži u tome što je jezične modele teško mijenjati jednom kada su aktivni, no to može biti i prikladan izgovor za odgađanje nužnih sigurnosnih ažuriranja.

Jedno je sigurno: ako OpenAI otvori svoje usluge developerima sadržaja za odrasle, može se očekivati dugotrajna kriza moderiranja dok se tvrtka bori s definiranjem onoga što je dopušteno i s tamnijom stranom virtualne erotike.