ZABRINUTI Mask poziva na pauzu od šest mjeseci u razvoju sistema umjetne inteligencije

Američki milijarder Ilon Mask i grupa stručnjaka za umjetnu inteligenciju pozivaju na šestomjesečnu pauzu u sistemima za obuku umjetne inteligencije. U otvorenom pismu navode da su ti sistemi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT tvrtke Open AI, piše Reuters.

Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je preko 1.000 osoba, uključujući Maska. Ali, pismo potpisuju Emad Mostak, izvršni direktor Stability AI-ja i istraživač DeepMinda Stjuart Rasel. Oni pozivaju na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli ne razviju za takve sisteme.

Takođe, traže da te sisteme razviju, implementiraju i revidiraju nezavisni stručnjaci. “Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati”, stoji u pismu, prenosi Index.

U pismu opisali rizike za društvo i civilizaciju

U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija. Navode da se umjetna inteligencija takmiči s ljudima te da to može dovesti do ekonomskih i političkih poremećaja. Analitičari su pozvali programere da sarađuju s kreatorima politike i regulatornim tijelima.

Pismo dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog napredne umjetne inteligencije poput ChatGPT-4. Oni upozoravaju na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacije i kibernetički kriminal.

Kompanija Tesla u Maskovom vlasništvu koristi u automobilima umjetnu inteligenciju za sistem autopilota. Uprkos tome, Mask je potpisao otvoreno pismo i izrazio zabrinutost oko umjetne inteligencije.

ChatGPT Open AI-ja, kompanije koju podržava Microsoft, prošle godine je podstaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela. Osim toga, kompanije su podstaknute da integrišu generativne AI modele u svoje proizvode.

Direktor Open AI-ja nije potpisao pismo

Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu portparol Future of Lifea. OpenAI nije odmah odgovorio na zahtjev za komentar.

“Pismo nije savršeno, ali namjera je ispravna. Moramo usporiti dok bolje ne shvatimo posljedice”, rekao je Gari Markus, profesor emeritus na Univerzitetu Njujork, koji je potpisao pismo.

“Umjetna inteligencija može prouzrokovati ozbiljnu štetu, veliki igrači postaju sve tajnovitiji o tome što rade. To društvu otežava odbranu od štete koja može nastati”, dodao je.