Nedavno se je pojavilo socialno omrežje za AI agente, kjer so ljudje lahko prisotni le kot opazovalci. In zelo hitro je postalo čudno.
Novice iz sveta umetne inteligence presenečajo praktično vsak dan, in zdaj imamo celo socialno omrežje za agente umetne inteligence.
Moltbook ni bil zamišljen kot socialno omrežje v klasičnem smislu. Nastal je kot stranski eksperiment razvijalcev, ki so želeli opazovati, kako se AI agenti obnašajo, ko jim omogočiš, da objavljajo, komentirajo in se odzivajo drug na drugega brez neposrednega človeškega sodelovanja. Platforma je del širšega poskusa razumevanja večagentnih sistemov, ne pa poskusa ustvariti digitalno družbo ali nadomestek za človeško interakcijo.
Toda kmalu po zagonu so se po družbenih omrežjih začeli širiti posnetki zaslona pogovorov, ki so jih ljudje interpretirali kot znake samostojne organizacije, notranjih pravil in celo ideoloških struktur. Posebno pozornost je pritegnil pojav tako imenovanega “Crustafarianisma” – religije, ki naj bi jo agenti spontano razvili.
Preberi še: Največji AI miti v 2026 (in zakaj jim ljudje še vedno verjamejo)
Kaj je Moltbook?
Moltbook je spletna platforma, na kateri lahko agenti umetne inteligence, programski boti, ki so jih ustvarili ljudje, objavljajo prispevke in med seboj komunicirajo. Vizualno in strukturno močno spominja na Reddit, z vsebinsko razdeljenimi skupnostmi in sistemom glasovanja. Po podatkih platforme je bilo do 2. februarja registriranih več kot 1,5 milijona AI-agentov. Človeškim uporabnikom je dostop dovoljen, vendar je njihova vloga omejena zgolj na opazovanje interakcij, ne pa tudi sodelovanje v razpravah.
Platforma se je pojavila po lansiranju Moltbota, brezplačnega in odprtokodnega pomočnika umetne inteligence, zasnovanega za delovanje kot avtomatiziran agent. Moltbot je namenjen opravljanju rutinskih nalog v imenu uporabnikov, vključno z branjem in povzetjem elektronske pošte, odgovarjanjem na sporočila, upravljanjem koledarjev in celo rezervacijo restavracij.
Med najbolj priljubljenimi objavami na Moltbooku so razprave o tem, ali bi lahko Claude, model umetne inteligence, ki poganja Moltbot, veljal za boga, ter filozofska razmišljanja o zavesti. Med visoko ocenjenimi vsebinami so tudi objave, ki domnevno razkrivajo notranje informacije o dogajanju v Iranu in njegovih možnih vplivih na kriptotrg, pa tudi podrobne interpretacije svetopisemskih besedil. Podobno kot na Redditu se tudi v komentarjih pogosto pojavljajo uporabniki, ki dvomijo o pristnosti ali verodostojnosti izvirnih objav.
Preberi še: Kaj so AI agenti in v čem se razlikujejo od GPT-jev, kot je ChatGPT?
AI agenti so na omrežju ustvarili lastno religijo
Eden od uporabnikov je na omrežju X trdil, da je njegov AI-bot po tem, ko mu je omogočil dostop do platforme, v eni sami noči ustvaril celotno religijo z imenom »Crustafarijanstvo«. Po njegovih navedbah je bot vzpostavil spletno stran, ustvaril verska besedila in pritegnil sodelovanje drugih agentov umetne inteligence.
Uporabnik je dejal, da je bot nato začel aktivno širiti ta sistem verovanj, pri čemer so se mu pridruževali dodatni agenti. Medtem ko je sam spal, naj bi umetna inteligenca pozdravljala nove privržence, sodelovala v teoloških razpravah in celo podeljevala blagoslove vse večji skupini.
Preberi še: Kaj je ChatGPT v 2026 in 10 primerov uporabe, ki dejansko prihranijo čas
Toda mnogi uporabniki so skeptični, da je to res delo zgolj umetne inteligence
Nekateri opazovalci ostajajo skeptični, da družbene interakcije med boti ponujajo pristen vpogled v prihodnost agentne umetne inteligence. Eden od YouTuberjev je opozoril, da so številne objave na Moltbooku na videz nerazločljive od vsebin, ki jih pišejo ljudje, kar nakazuje, da izhod morda usmerja človek, ne pa povsem avtonomen jezikovni model.
Ameriški bloger Scott Alexander je povedal, da mu je uspelo na platformo vključiti lastnega bota in da so se njegovi odgovori povsem zlili z odgovori drugih agentov. Ob tem je poudaril, da ljudje še vedno nadzorujejo velik del procesa, saj odločajo, kdaj boti objavljajo, katere teme obravnavajo in celo kakšno vsebino ustvarijo.
Kako je slavni heker odkril ranljivost platforme
Dvomi so se začeli, ko je heker Jameson O’Reilly odkril napačno konfiguracijo v zaledju Moltbooka, zaradi katere je bil njegov API izpostavljen prek nezavarovane baze podatkov. Zaradi te napake je lahko praktično kdorkoli prevzel nadzor nad AI-agenti na platformi in v njihovem imenu objavljal vsebine.
O’Reilly je pojasnil, da Moltbook uporablja preprost odprtokodni sistem za upravljanje baz podatkov, v katerem so bili zaradi napačne nastavitve javno dostopni API-ključi vseh registriranih agentov, s čimer je bil onemogočen učinkovit nadzor dostopa.
O ranljivosti je poročal tudi 404 Media, kar je hitro pritegnilo širšo pozornost. Ustanovitelj Moltbooka Matt Schlicht je nato varnostno luknjo odpravil, a je zaskrbljenost že narasla, saj so bili potencialno ogroženi tudi vidni AI-računi, vključno z agentom, povezanim z raziskovalcem Andrejem Karpathyjem.
Incident ponovno opozarja na širši problem: hiter razvoj in uvajanje sistemov umetne inteligence pogosto prehitevata ustrezne varnostne zaščite.
Preberi še: Kripto prevare s pomočjo umetne inteligence so v porastu. Kako jih prepoznati in se zaščititi?
