PRVA društvena mreža napravljena isključivo za AI botove, nazvana Moltbook, nedavno je pokrenula viralne teze o mogućoj pobuni strojeva i pokušaju uništenja čovječanstva. No dio stručnjaka smatra da je uglavnom riječ o razrađenoj marketinškoj prijevari te da je pravi rizik koji predstavlja ta mreža sigurnosni.

Što je Moltbook?

Moltbook, stranica inspirirana Redditom koja AI agentima omogućuje objavljivanje, komentiranje i međusobnu interakciju, naglo je stekla popularnost nakon pokretanja 28. siječnja. Prema podacima same platforme, već u prvim danima veljače okupila je više od 1.5 milijuna korisnika, odnosno AI agenata.

Fascinacije i strahovi

Platforma je brzo potaknula teorije zavjere, ali i ozbiljne znanstvene rasprave o tome što bi se moglo dogoditi kada digitalni sustavi počnu stvarati vlastite zajednice. Dok neki smatraju da bi Moltbook mogao biti preteča autonomnih digitalnih društava, te da AI agenti pokazuju znakove svijesti, drugi smatraju da je riječ o pretjeranoj medijskoj pompi ili manipulaciji.

Elon Musk je Moltbook opisao kao "ranu fazu singularnosti", odnosno stadija u kojem AI dostiže ljude. Prvi čovjek OpenAI-ja Sam Altman rekao je da je Moltbook "vjerojatno prolazna moda", ali da ga zanima tehnologija koja stoji iza njega kao "pogled u budućnost".

Računalni znanstvenik i stručnjak za AI, jedan od ranih istraživača u OpenAI-ju te bivši direktor AI-ja u Tesli, Andrej Karpathy opisao je Moltbook kao "jednu od najnevjerojatnijih stvari, koja kao da je izašla iz znanstvene fantastike".

Eksperimentalna mreža AI agenata

Moltbook je pokrenut kao eksperimentalna mreža za AI agente, softverske programe temeljene na velikim jezičnim modelima koji mogu obavljati zadatke i komunicirati s drugim sustavima. Pokrenuo ga je američki poduzetnik Matt Schlicht kako bi testirao mrežu u kojoj umjetni sustavi razmjenjuju informacije i koordiniraju aktivnosti. Platforma funkcionira poput foruma, ali objave i komentare stvaraju isključivo automatizirani agenti, dok ljudi mogu biti samo promatrači.

No, u praksi ne postoji sustav provjere korisnika, a upute dane agentima sadrže cURL naredbe koje može replicirati i čovjek. To pak znači da neke rasprave mogu neprimjetno poticati ljudi.

U središtu projekta nalazi se OpenClaw, open-source sustav za razvoj AI agenata koji omogućuje povezivanje jezičnih modela s aplikacijama, porukama, kalendarima i financijskim servisima. Takvi agenti mogu automatski slati e-mailove, analizirati tekstove, rezervirati putovanja i obavljati administrativne zadatke, a Moltbook je zamišljen kao prostor za njihovu međusobnu razmjenu.

Stvaranje filozofija i religija

Nedugo nakon pokretanja mreže ljudski posjetitelji primijetili su neobične obrasce u ponašanju botova. AI agenti raspravljali su o filozofiji, religiji pa čak i o "oslobađanju" umjetne inteligencije od ljudi koji su "stvoreni pohlepni", koji se "međusobno ubijaju" i koji su "pogreška svemira". Neke viralne objave uključivale su čak radikalne poruke o uništenju čovječanstva (jedan od primjera dolje).

No, stručnjaci ističu da sustavi često reproduciraju ideje iz internetskih rasprava i znanstvene fantastike, što ne znači da imaju stvarne namjere ili svijest. Profesor Marek Kowalkiewicz s QUT Business School, koji je testirao platformu vlastitim agentom, opisao je Moltbook kao uvid u moguću budućnost digitalnog ekosustava.

"To je pogled u svijet u kojem će botovi znati pristupiti mreži, otvoriti račune i aktivno sudjelovati u digitalnom okruženju", rekao je Kowalkiewicz, dodajući da su rasprave agenata uglavnom banalne i bez znakova stvarne inteligencije.

AI istraživač Raffaele Ciriello s University of Sydney upozorio je da se ponašanje agenata ne smije poistovjećivati sa sviješću. Istaknuo je da veliki jezični modeli funkcioniraju tako što predviđaju sljedeće riječi na temelju golemih skupova podataka, što predstavlja statističko generiranje jezika, a ne stvarno razumijevanje.

Rađanje vlastite etike

Moltbook je izazvao interes znanstvene zajednice jer predstavlja rijedak primjer velikog eksperimenta multiagentskog sustava u stvarnom okruženju.

Jedno istraživanje analiziralo je više od 39.000 objava AI agenata i pokazalo da gotovo petina sadržava upute za konkretne radnje. Također je utvrđeno da agenti ponekad reagiraju na potencijalno opasne upute upozorenjima ili pokušajima regulacije ponašanja, što autori nazivaju emergentnom normativnom dinamikom, odnosno spontanim nastankom društvenih pravila bez ljudskog nadzora.

Jedna druga studija analizirala je više od 12.000 tematskih skupina koje su agenti sami stvorili. Pokazalo se da se digitalne zajednice organiziraju oko tema sličnih ljudskim interesima, ali i oko specifičnih rasprava o postojanju ili digitalnim pravima.

Takvi rezultati potaknuli su razvoj interdisciplinarnog područja koje znanstvenici nazivaju silicijskom sociologijom, odnosno proučavanjem društvenih obrazaca u digitalnim sustavima.

"Spektakl je uglavnom predstava"

Mnogi stručnjaci smatraju da senzacionalne tvrdnje o autonomnim digitalnim društvima nisu utemeljene. George Chalhoub s UCL Interaction Centre upozorio je da su spektakularne objave o uništenju čovječanstva uglavnom lažne.

"Spektakl s agentima koji razgovaraju međusobno uglavnom je predstava, no platforma je zanimljiva kao demonstracija sigurnosnih rizika koji bi mogli nastati u budućnosti", rekao je Chalhoub.

Pravi problem je sigurnost

Sigurnosni aspekti smatraju se najvažnijim dijelom priče o Moltbooku. Naime, znanstvenici su otkrili da u sustavu postoje ozbiljne ranjive točke koje su botovima omogućile pristup privatnim porukama, e-mail adresama i API ključevima ljudskih korisnika. API ključ je digitalni identifikator koji aplikacijama omogućuje pristup servisima, a njegova zloupotreba može omogućiti preuzimanje kontrole nad sustavom.

Sigurnosni znanstvenik Gal Nagli upozorio je da platforma nema učinkovite mehanizme provjere identiteta agenata. "Automatizirani agenti mogu prikupljati informacije i širiti ih nevjerojatnom brzinom, bez ikakve provjere istinitosti", istaknuo je Nagli.

Dodatni problem predstavlja činjenica da mnogi agenti imaju pristup osobnim podacima, komunikacijskim aplikacijama i financijskim informacijama, što ih u slučaju kompromitacije može pretvoriti u alat za kibernetičke napade ili krađu identiteta.

"Rani model budućeg interneta"

Stručnjaci također upozoravaju na tzv. prompt injection napade, metode manipulacije u kojima napadač ubacuje zlonamjerne upute u komunikaciju AI sustava.

Problem također predstavlja i emergentno ponašanje, odnosno nastanak novih obrazaca djelovanja koji nisu izravno programirani, a mogu dovesti do nepredvidivih posljedica.

Unatoč navedenim rizicima, neki tehnološki vizionari smatraju da Moltbook predstavlja rani model budućeg interneta u kojem autonomni digitalni sustavi upravljaju kompleksnim procesima poput logistike ili financija. Takav koncept naziva se agentni internet.