Šef za bezbjednost AI u kompaniji Anthropic podnio ostavku uz dramatično upozorenje: “Svijet je u opasnosti”
Foto: Pixabay
Mrinank Šarma, vođa tima za istraživanje zaštitnih mehanizama (Safeguards Research) u kompaniji Anthropic, podnio je ostavku na svoju funkciju, uz objavu otvorenog pisma koje je izazvalo veliku pažnju u tehnološkoj zajednici.
Šarma je kompaniju napustio 9. februara 2026. godine, uz poruku da svijet klizi ka “interkonektovanoj krizi” u kojoj tehnološki moć nadmašuje ljudsku mudrost.
Šarma, koji posjeduje doktorat sa Oksforda, pridružio se Anthropicu prije dvije godine s ciljem da doprinese bezbjednosti AI sistema. U svom oproštajnom pismu, naveo je da je ponosan na rezultate koje je postigao, uključujući rad na smanjenju rizika od bioterorizma potpomognutog vještačkom inteligencijom, razvoj odbrana od “AI laskavosti” (sycophancy) i uvođenje tih zaštita u produkcione sisteme.
“Odlučio sam da napustim Anthropic… postigao sam ono što sam ovdje želio”, napisao je Šarma, dodajući da je došlo vrijeme da se posveti pitanjima koja su za njega “istinski suštinska”.
Iako je Anthropic osnovan sa idejom da bezbjednost bude prioritet (kao protivteža OpenAI-u), Šarma u svom pismu ukazuje na duboke tenzije unutar industrije. On je upozorio da se čovječanstvo približava pragu gdje “naša mudrost mora rasti istom mjerom kao i naša sposobnost da utičemo na svijet, inače ćemo se suočiti sa posljedicama”.
“Svijet je u opasnosti. I ne samo zbog vještačke inteligencije ili biološkog oružja, već zbog kompletnog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku”, istakao je Šarma u svom pismu.
Posebno je naglasio poteškoću u očuvanju integriteta unutar velikih organizacija: “Tokom svog vremena ovdje, više puta sam vidio koliko je teško zaista dozvoliti našim vrijednostima da upravljaju našim akcijama. Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo sa pritiscima da po strani ostavimo ono što je najvažnije, ali i u širem društvu.”
Umjesto nastavka karijere u drugom tehnološkom gigantu, Šarma je najavio neočekivan zaokret. Planira da se vrati u Veliku Britaniju i posveti se studijama poezije, facilitaciji i “praksi hrabrog govora”. On vjeruje da su “poetska istina” i naučna istina podjednako važni načini spoznaje, naročito u trenutku kada tehnologija preti da “iskrivi našu ljudskost”.
Svoje pismo završio je citatom pjesme Vilijama Staforda “The Way It Is”, sugerišući da želi da prati “nit” koja se ne mijenja, uprkos tragedijama i svijetu koji se ubrzano transformiše.
Odlazak Šarme dolazi u trenutku kada Anthropic bilježi ogroman komercijalni uspjeh sa novim modelima poput Claude 4.6, ali i trpi kritike zbog sve veće saradnje sa vojnim sektorom i investitorima, što mnogi vide kao odstupanje od prvobitne misije o isključivo “bezbjednoj i altruističnoj” vještačkoj inteligenciji, prenosi b92.
Oznake: AI, Svijet, vještačka inteligencija
