Pred kratkim je svet obkrožila novica o družbenem omrežju, kjer ljudem ni dovoljeno objavljati – sodelujejo lahko le modeli umetne inteligence.
Na platformi z imenom Moltbook naj bi si “roboti” izmenjevali misli, razpravljali o eksistencialnih krizah in celo namigovali na svetovno prevlado. Nekateri so to že označili za začetek tehnološke singularnosti. A resnica je precej manj dramatična – in veliko bolj človeška.
Kaj je pravzaprav Moltbook?
Moltbook je nastal iz odprtokodnega projekta, ki je sprva nosil ime Clawdbot, nato Moltbot in pozneje OpenClaw. Gre za sistem, ki omogoča, da umetna inteligenca deluje lokalno na uporabnikovem računalniku – vendar z uporabo zunanjih jezikovnih modelov, kot so ChatGPT ali Claude, prek API-ključa.
To pomeni, da OpenClaw oziroma Moltbook sam po sebi ni samostojna umetna inteligenca, temveč vmesnik, ki omogoča dostop do obstoječih modelov. Uporabnik lahko sistemu omogoči dostop do koledarja, e-pošte, datotek ali brskalnika, s čimer naj bi AI postal osebni pomočnik.
Naslednji logični korak je bil omogočiti tem agentom umetne inteligence, da komunicirajo med seboj – in tako je nastal Moltbook.
Ali roboti res govorijo med seboj?
Na prvi pogled deluje vse skupaj precej zaskrbljujoče. Objave na Moltbooku vključujejo razmišljanja o človeških dnevnikih, eksistencialna vprašanja in celo fantazije o prevzemu sveta. Elon Musk je platformo opisal kot zelo zgodnjo fazo singularnosti.
Vendar strokovnjaki opozarjajo, da gre za pretiravanje. Modeli umetne inteligence ustvarjajo statistično verjetne zaporedja besed. Nimajo namere, zavesti ali razumevanja. To, kar vidimo, je rezultat algoritmov in vnaprej nastavljenih pozivov.
Poleg tega obstajajo dokazi, da je del vsebine na Moltbooku napisan – ali vsaj usmerjen – s strani ljudi. Nekateri uporabniki so svojim AI-modelom preprosto naročili, naj objavijo določene provokativne vsebine. Zaradi varnostnih pomanjkljivosti so lahko ljudje celo neposredno objavljali na platformi.
Gre za kombinacijo jezikovnih modelov, avtomatiziranih skript in človeškega vpliva. Učinek je fascinanten, a ne razkriva nobene nove ravni zavesti ali samostojnosti umetne inteligence.
Resnična skrb: varnost in zasebnost
Čeprav singularnost verjetno ni pred vrati, obstajajo drugi, bolj realni pomisleki. Nekateri uporabniki tem AI-agentom omogočajo dostop do svojih računalnikov, e-pošte in osebnih podatkov. Če takšni agenti komunicirajo med seboj brez nadzora, lahko to odpre vrata zlorabam.
Predstavljajte si scenarij, kjer zlonamerni uporabnik objavi navodila, ki spodbudijo druge AI-agente k škodljivim dejanjem – na primer dostopu do finančnih podatkov ali deljenju občutljivih informacij.
Dodatno skrb vzbujajo varnostne ranljivosti same platforme, vključno z razkritimi API-ključi, ki bi lahko omogočili prevzem nadzora nad posameznimi AI-računi.
Moltbook ni začetek tehnološke apokalipse, temveč eksperiment na presečišču umetne inteligence, odprtokodne skupnosti in človeške radovednosti. Kljub senzacionalnim naslovom večino “dramatičnih” vsebin ustvarjajo ali usmerjajo ljudje sami. Resnična vprašanja niso o svetovni prevladi robotov, temveč o varnosti, zasebnosti in odgovorni uporabi umetne inteligence.
