Smjena tvorca ChatGPT izazvala negodovanje zaposlenih u OpenAI

Sam Altman, suosnivač i donedavno prvi čovjek start-upa OpenAI, radit će za Microsoft, objavljeno je danas, tri dana nakon što je superzvijezda iz Silicijske doline smijenjena s dužnosti izvršnog direktora.

Sam Altman i Greg Brockman, suosnivači OpenAI-ja, “pridružit će se kolegama u Microsoftu i vodit će novu ekipu za istraživanje AI-ja”, napisao je vlasnik američkog tehnološkog diva Satya Nadella na platformi X (bivši Twitter).

OpenAI je start-up koji je razvio ChatGPT, alat umjetne inteligencije (AI). “Misija se nastavlja”, napisao je Sam Altman (38) na X-u.

Microsoft je uložio više milijardi dolara u OpenAI i ugradio je tu tehnologiju u vlastite proizvode, kao što je tražilica Bing.

Upravni odbor OpenAI-ja iznenadio je u petak sve kada su objavili da je superzvijezda Silicijske doline dobila otkaz, a kao razlog naveli su da Altman nije bio “dosljedno iskren u komunikaciji”, pa su izgubili povjerenje u njegove sposobnosti upravljanja tvrtkom.

Nakon toga više ljudi na vodećim dužnostima u OpenAI-ju najavilo je odlazak, a među njima i Greg Brockman. Prva verzija ChatGPT-ja pokrenuta je 30. studenoga 2022., čime je počela utrka u razvoju AI-ja.

Razlog otkaza ostaje nejasan

Točan razlog Altmanova otkaza ostaje nejasan. Prema ljudima koji su upoznati s tim, otpušten je jer odbor nije bio siguran da Altman radi na tome da umjetna inteligencija bude sigurna i korisna.

Osoba koja je izravno upoznata s odlukom odbora rekla je da je postalo “nemoguće nadzirati” suosnivača. “Nije bilo ni jednog velikog problema”, dodala je ta osoba. “Odbor je došao do točke u kojoj nije mogao vjerovati onome što je Sam govorio.”

Upravni odbor se bojao katastrofe, mislili su da Altman proizvodi tehnološki ekvivalent nuklearne bombe
CNN u svojoj analizi piše da je upravni odbor OpenAI-ja bio zabrinut da kompanija proizvodi tehnološki ekvivalent nuklearne bombe. Brinulo ih je da je Altman napredovao toliko brzo da je postojala opasnost od izazivanja globalne katastrofe.

Upravni odbor, piše CNN, ima prije svega obvezu prema svojim dioničarima i ulagačima. Najvažniji dioničar OpenAI-ja je Microsoft, tvrtka koja je Altmanu i njegovim suradnicima dala 13 milijardi dolara kako bi Bing, Office, Windows i Azure preskočili Google i ostali ispred Amazona, IBM-a i drugih kompanija.

the mission continues https://t.co/d1pHiFxcSe

— Sam Altman (@sama) November 20, 2023

Zaposlenici firme nisu bili upoznati s vijesti da će Altman biti otpušten, pa je tako neinformiran ostao i Greg Brockman, njegov najbliži suradnik, koji je na X-u objavio da je za otkaz saznao par trenutaka prije nego što se dogodio. On je podnio ostavku u znak prosvjeda, a uslijedili su i brojni drugi otkazi ljudi koji se nisu slagali s ovom odlukom.

Zaposlenici OpenAI prijete odlaskom u Microsoft, traže ostavku uprave

Oko 500 zaposlenika OpenAI-ja, dvije trećine ukupnog broja, potpisalo je pismo, pozivajući upravu na ostavku, nakon što je Altman otpušten tijekom vikenda.

U pismu, koje su potpisali i suosnivač Ilya Sutskever i Mira Murati, koja je prvotno trebala preuzeti dužnost od Altmana, optužuju odbor da je “nesposoban nadgledati OpenAI”. “Ne možemo raditi za ljude ili s ljudima koji nemaju kompetencije, dobru prosudbu i koji se ne brinu za našu misiju i zaposlenike”, dodaje se u pismu.

Potpisnici kažu da bi mogli dati otkaz i otići raditi za Altmana u novoformiranoj podružnici Microsofta.

“OpenAI je ništa bez svojih ljudi”

Brojni zaposlenici, uključujući i one na višim pozicijama, objavili su istu poruku na X-u, koja glasi: “OpenAI je ništa bez svojih ljudi.” Altman ih je redom sve retvitao na X-u.

Emmett Shear, novi šef OpenAI-ja, bivši je voditelj i suosnivač streaming usluge Twitch. U dopisu upućenom osoblju OpenAI-ja stoji da on ima “kombinaciju vještina, stručnosti i odnosa koja će pokrenuti OpenAI”.

Unatoč tome što je sada na čelu jedne od najmoćnijih svjetskih tvrtki za umjetnu inteligenciju i što je sam sebe opisao kao tehno optimista, Shear je izrazio zabrinutost zbog potencijalne egzistencijalne prijetnje koju predstavlja ta tehnologija.

Kao razlog za svoju tjeskobu naveo je njezinu moguću sposobnost nenadziranog samousavršavanja, govoreći u podcastu Showa Logan Bartlett u lipnju.

“To je kao da je netko izmislio način da se od pijeska i izbjeljivača naprave deset puta snažnije fuzijske bombe, koje svatko može napraviti kod kuće”, rekao je.

U petak, kada je OpenAI objavio da otpušta Altmana, optužio ga je da nije bio “dosljedno iskren u komunikaciji s upravom, ometajući njezinu sposobnost da izvršava svoje odgovornosti”. Odbor nije precizirao u čemu je Altman navodno bio neiskren.

“Odbor nije smijenio Altmana zbog neslaganja oko sigurnosti”

U nedjelju navečer odbor je rekao da “čvrsto stoji iza svoje odluke kao jedinog puta za napredak i obranu misije OpenAI-ja”, prema internom memorandumu u koji je The New York Times imao uvid.

Shear je rekao da je razmotrio razloge odlaska Altmana prije nego što je preuzeo ulogu:

“Odbor *nije* smijenio Sama zbog bilo kakvog specifičnog neslaganja oko sigurnosti, njihovo obrazloženje bilo je potpuno drugačije od toga. Nisam dovoljno lud da prihvatim ovaj posao bez podrške odbora za komercijalizaciju naših sjajnih modela”, napisao je na X-u

Ali Shear se obvezao angažirati neovisnog istražitelja “da istraži cijeli proces”. Doći će do “reforme menadžmenta u svjetlu nedavnih odlazaka”, napisao je.

Bizarna struktura OpenAI-odbora zakomplikovala je stvari

Open AI kao tvrtka je neprofitan. Ali Sam Altman, Greg Brockman i glavni znanstvenik Ilya Sutskever 2019. osnovali su OpenAI LP, profitni subjekt koji postoji unutar strukture veće tvrtke. Zahvaljujući tome, u samo nekoliko godina OpenAI dosegnuo je vrijednost od 90 milijardi dolara, a Altman se u velikoj mjeri smatra glavnim umom tog plana i ključem uspjeha tvrtke.

Ipak, tvrtka s velikim pokroviteljima, poput Microsofta i tvrtke rizičnog kapitala Thrive Capital, ima obvezu razvijati svoje poslovanje i zarađivati. Ulagači žele biti sigurni da će imati profit od uloženog novca, a nisu poznati kao strpljiva skupina.

To je vjerojatno navelo Altmana da potakne profitnu tvrtku da brže uvodi inovacije i izlazi na tržište s proizvodima.

To je možda u redu kada se radi o aplikaciji za upoznavanje ili platformi društvenih medija. No sasvim je drugačije kada je riječ o tehnologiji koja je toliko dobra u oponašanju ljudskog govora i ponašanja da može zavarati ljude da su njezini lažni razgovori i slike stvarni.

I to je ono što je navodno uplašilo upravu tvrtke, koja je ostala pod većinskom kontrolom neprofitnog krila tvrtke.

OpenAI-jeva nedavna konferencija za programere poslužila je kao točka preokreta. Altman je najavio da će OpenAI učiniti dostupnim alate pomoću kojih bi svatko mogao stvoriti vlastitu verziju ChatGPT-ja. Za Sutskevera i odbor to je bio korak predaleko.

Altman je i sam priznao da se OpenAI igra vatrom

Altman je i sam priznao da se OpenAI igra vatrom. Kada je osnivan OpenAI LP, tvrtka unutar tvrtke, u statutu su naveli da su i dalje zabrinuti zbog potencijala umjetne inteligencije da “uzrokuje brze promjene za čovječanstvo”.

Takve promjene mogu se dogoditi nenamjerno, kada tehnologija obavlja zlonamjerne zadatke zbog pogreške u kodu. S druge strane, takve promjene mogu namjerno napraviti i ljudi koji koriste AI sustave u loše svrhe.

Zbog toga se firma obvezala dati poseban prioritet sigurnosti, čak i ako bi to značilo smanjenje profita dioničara. Altman je također pozvao regulatore da postave ograničenja za AI kako bi spriječili ljude poput njega da nanesu ozbiljnu štetu društvu.

“Hoće li AI biti poput tiskarskog stroja, koji je širio znanje, moć i učenje diljem svijeta, pa je time osnažio obične pojedince, što je dovelo do većeg procvata, koji je donio veće slobode? Ili će to biti više poput atomske bombe – veliki tehnološki napredak, ali s teškim i strašnim posljedicama, koje nas nastavljaju proganjati do danas?” pitao se Altman na saslušanju pododbora Senata u svibnju, tražeći dodatnu regulaciju umjetne inteligencije.

Neki misle da AI može promijeniti industriju i unaprijediti čovječanstvo, drugi da može oduzeti milijune radnih mjesta

Zagovornici umjetne inteligencije vjeruju da tehnologija ima potencijal promijeniti svaku industriju i unaprijediti čovječanstvo. Smatraju kako ima potencijal poboljšati obrazovanje, financije, poljoprivredu i zdravstvenu skrb.

No, neki smatraju da također ima potencijal oduzeti radna mjesta ljudima. U sljedećih pet godina moglo bi nestati 14 milijuna radnih mjesta, upozorio je Svjetski ekonomski forum u travnju.

Umjetna inteligencija posebno je vješta u širenju dezinformacija. Neki, među kojima je i bivši član uprave OpenAI-ja Elon Musk, strahuju da će tehnologija nadmašiti čovječanstvo u inteligenciji i da bi mogla izbrisati život na planetu.

Microsoft želi svoje mjesto za stolom u odboru OpenAI

S obzirom na sve te moguće prijetnje, CNN piše da nije čudo što je odbor bio zabrinut da Altman djeluje prebrzo. Postoji mogućnost da su se osjećali obveznima riješiti ga se i zamijeniti ga nekim tko bi, po njihovom mišljenju, bio oprezniji s potencijalno opasnom tehnologijom. No, OpenAI ne postoji u vakuumu. Kompanija ima dioničare, od kojih su neki uložili milijarde.

OpenAI je trebao koristiti rješenja koja bi bila adekvatnija za tvrtku te veličine, među kojima su uključivanje Microsofta u odluke, informiranje zaposlenika te rad s Altmanom na rješenju problema. Da su imali takav pristup, vjerojatno ne bi došlo do Altmanova otkaza, piše CNN u svojoj analizi.

Unatoč svom ogromnom udjelu u tvrtki, Microsoft nema mjesto u odboru OpenAI-ja, ponovno zbog neobične strukture firme. No, to bi se sada moglo promijeniti, sudeći po brojnim medijskim izvješćima, uključujući Wall Street Journal i New York Times. Jedan od zahtjeva kompanije, uključujući povratak Altmana, bio je da imaju mjesto za stolom.

Šta će na kraju biti?

Microsoft je vjerovao da je ugradnjom funkcija koje podsjećaju na ChatGPT u svoju tražilicu Bing, ali i druge proizvode, mudro uložio u budućnost. Zbog toga je vjerojatno izvršni direktor tvrtke Satya Nadella bio šokiran kada je u petak navečer, kao i cijela svjetska javnost, saznao da je Altman dobio otkaz. Odbor je razljutio moćnog saveznika, piše CNN, i mogao bi se zauvijek promijeniti zbog načina na koji je postupio s Altmanom.

Situacija je mogla završiti tako da Altman ostane na čelu, ali s golemim promjenama u OpenAI-ju. No, priča je završila tako da je on prešao u Microsoft, na čelo novog tima za umjetnu inteligenciju, a privremeno je na čelo OpenAI-ja sjeo drugi čovjek.

Pljušte reakcije

Ove su vijesti uzdrmale svjetsku javnost, a od otkaza Altmanu pljušte reakcije. Javili su se Musk i drugi koji su povezani s razvojem umjetne inteligencije.

Elon Musk, koji je pomogao financijski održati OpenAI na životu kada su tek kretali i imali problema, na ovu vijest reagirao je karakteristično kratkim tvitom. “Sada će morati koristiti Teams!” rekao je Musk.

Lex Fridman, poznati podcaster i znanstvenik s MIT-ja, napisao je da se nada da će humanost ostati najveći prioritet. “Wow. Bez obzira na to što se dogodi s timom, nadam se da će benefiti humanosti ostati najveći prioritet.”

Iba Masood, šef i suosnivač Tara.aija, kaže da je pouka ovoga da se nikada ne treba kladiti protiv Microsofta. “Pouka priče je: Nikad se nemoj kladiti protiv Microsofta”, kaže Masood.

Ankur Warikoo, indijski poduzetnik, bio je oduševljen ovom vijesti. “Kakav hrabar potez. Uzbuđen sam vidjeti što je sljedeće”, prenosi index.hr.