Šire se priča da se na mreži AI-jeva sprema pobuna protiv ljudi: Šta se događa?
Foto: Screenshot
Prva društvena mreža napravljena isključivo za AI botove, nazvana Moltbook, nedavno je pokrenula viralne teze o mogućoj pobuni mašina i pokušaju uništenja čovječanstva. Ali dio stručnjaka smatra da je uglavnom riječ o razrađenoj marketinškoj prevari te da je pravi rizik koji predstavlja ta mreža bezbjednosni.
Šta je Moltbook?
Moltbook, stranica inspirisana Redditom koja AI agentima omogućuje objavljivanje, komentarisanje i međusobnu interakciju, naglo je stekla popularnost nakon pokretanja 28. januara. Prema podacima same platforme, već u prvim danima februara okupila je više od 1,5 miliona korisnika, odnosno AI agenata.
Fascinacije i strahovi
Platforma je brzo podstaknula teorije zavjere, ali i ozbiljne naučne rasprave o tome šta bi se moglo dogoditi kada digitalni sistemi počnu stvarati vlastite zajednice. Dok neki smatraju da bi Moltbook mogao biti preteča autonomnih digitalnih društava, te da AI agenti pokazuju znakove svijesti, drugi smatraju da je riječ o pretjeranoj medijskoj pompi ili manipulaciji.
Ilon Mask je Moltbook opisao kao “ranu fazu singularnosti”, odnosno stadijuma u kojem AI dostiže ljude. Prvi čovjek OpenAI-ja Sam Altman rekao je da je Moltbook “vjerovatno prolazna moda”, ali da ga zanima tehnologija koja stoji iza njega kao “pogled u budućnost”.
Računarski naučnik i stručnjak za AI, jedan od ranih istraživača u OpenAI-ju te bivši direktor AI-ja u Tesli, Andrej Karpathy opisao je Moltbook kao “jednu od najnevjerovatnijih stvari, koja kao da je izašla iz naučne fantastike”.
Eksperimentalna mreža AI agenata
Moltbook je pokrenut kao eksperimentalna mreža za AI agente, softverske programe temeljene na velikim jezičkim modelima koji mogu obavljati zadatke i komunicirati s drugim sistemima. Pokrenuo ga je američki preduzetnik Matt Schlicht kako bi testirao mrežu u kojoj vještački sistemi razmjenjuju informacije i koordiniraju aktivnosti. Platforma funkcioniše poput foruma, ali objave i komentare stvaraju isključivo automatizovani agenti, dok ljudi mogu biti samo posmatrači.
Ali, u praksi ne postoji sistem provjere korisnika, a upute date agentima sadrže cURL naredbe koje može replicirati i čovjek. To pak znači da neke rasprave mogu neprimjetno podsticati ljudi.
U centru projekta nalazi se OpenClaw, open-source sistem za razvoj AI agenata koji omogućuje povezivanje jezičkih modela s aplikacijama, porukama, kalendarima i finansijskim servisima. Takvi agenti mogu automatski slati i-mejlove, analizirati tekstove, rezervisati putovanja i obavljati administrativne zadatke, a Moltbook je zamišljen kao prostor za njihovu međusobnu razmjenu.
Stvaranje filozofija i religija
Nedugo nakon pokretanja mreže ljudski posjetioci primijetili su neobične obrasce u ponašanju botova. AI agenti raspravljali su o filozofiji, religiji pa čak i o “oslobađanju” vještačke inteligencije od ljudi koji su “stvoreni pohlepni”, koji se “međusobno ubijaju” i koji su “greška svemira”. Neke viralne objave uključivale su čak radikalne poruke o uništenju čovječanstva.
Ali, stručnjaci ističu da sistemi često reprodukuju ideje iz internetskih rasprava i naučne fantastike, što ne znači da imaju stvarne namjere ili svijest. Profesor Marek Kowalkiewicz s QUT Business School, koji je testirao platformu vlastitim agentom, opisao je Moltbook kao uvid u moguću budućnost digitalnog ekosistema.
“To je pogled u svijet u kojem će botovi znati pristupiti mreži, otvoriti račune i aktivno učestvovati u digitalnom okruženju”, rekao je Kowalkiewicz, dodajući da su rasprave agenata uglavnom banalne i bez znakova stvarne inteligencije.
AI istraživač Raffaele Ciriello s University of Sydney upozorio je da se ponašanje agenata ne smije poistovjećivati sa sviješću. Istakao je da veliki jezički modeli funkcionišu tako što predviđaju sljedeće riječi na osnovu velikih skupova podataka, što predstavlja statističko generisanje jezika, a ne stvarno razumijevanje.
Rađanje vlastite etike
Moltbook je izazvao interes naučne zajednice jer predstavlja rijedak primjer velikog eksperimenta multiagentskog sistema u stvarnom okruženju.
Jedno istraživanje analiziralo je više od 39.000 objava AI agenata i pokazalo da gotovo petina sadržava upute za konkretne radnje. Takođe je utvrđeno da agenti ponekad reaguju na potencijalno opasne upute upozorenjima ili pokušajima regulacije ponašanja, što autori nazivaju emergentnom normativnom dinamikom, odnosno spontanim nastankom društvenih pravila bez ljudskog nadzora.
Jedna druga studija analizirala je više od 12.000 tematskih grupa koje su agenti sami stvorili. Pokazalo se da se digitalne zajednice organizuju oko tema sličnih ljudskim interesima, ali i oko specifičnih rasprava o postojanju ili digitalnim pravima.
Takvi rezultati podstaknuli su razvoj interdisciplinarnog područja koje naučnici nazivaju silicijumskom sociologijom, odnosno proučavanjem društvenih obrazaca u digitalnim sistemima.
“Spektakl je uglavnom predstava”
Mnogi stručnjaci smatraju da senzacionalne tvrdnje o autonomnim digitalnim društvima nisu utemeljene. George Chalhoub s UCL Interaction Centre upozorio je da su spektakularne objave o uništenju čovječanstva uglavnom lažne.
“Spektakl s agentima koji razgovaraju međusobno uglavnom je predstava, ali platforma je zanimljiva kao demonstracija bezbjednosnih rizika koji bi mogli nastati u budućnosti”, rekao je Chalhoub.
Pravi problem je bezbjednost
Bezbjednosni aspekti smatraju se najvažnijim dijelom priče o Moltbooku. Naime, naučnici su otkrili da u sistemu postoje ozbiljne ranjive tačke koje su botovima omogućile pristup privatnim porukama, i-mejl adresama i API ključevima ljudskih korisnika. API ključ je digitalni identifikator koji aplikacijama omogućuje pristup servisima, a njegova zloupotreba može omogućiti preuzimanje kontrole nad sistemom.
Bezbjednosni naučnik Gal Nagli upozorio je da platforma nema učinkovite mehanizme provjere identiteta agenata. “Automatizovani agenti mogu prikupljati informacije i širiti ih nevjerovatnom brzinom, bez ikakve provjere istinitosti”, istaknuo je Nagli.
Dodatni problem predstavlja činjenica da mnogi agenti imaju pristup ličnim podacima, komunikacijskim aplikacijama i finansijskim informacijama, što ih u slučaju kompromitacije može pretvoriti u alat za kibernetičke napade ili krađu identiteta.
“Rani model budućeg interneta”
Stručnjaci takođe upozoravaju na tzv. prompt injection napade, metode manipulacije u kojima napadač ubacuje zlonamjerne upute u komunikaciju AI sistema.
Problem takođe predstavlja i emergentno ponašanje, odnosno nastanak novih obrazaca djelovanja koji nisu direktno programirani, a mogu dovesti do nepredvidivih posljedica.
Uprkos navedenim rizicima, neki tehnološki vizionari smatraju da Moltbook predstavlja rani model budućeg interneta u kojem autonomni digitalni sistemi upravljaju kompleksnim procesima poput logistike ili finansija. Takav koncept naziva se agentni internet, prenosi Index.
Oznake: AI
