Osnivač OpenAI-ja: Svijet bi mogao ući u ozbiljnu krizu prevara

Šef OpenAI-JA Sam Altman upozorio je da bi svijet uskoro mogao ući u ozbiljnu krizu prevara zbog načina na koji vještačka inteligencija omogućuje zlonamjernima da oponašaju tuđe identitete.

“Jedna stvar koja me užasava jeste to što još uvijek postoje finansijske institucije koje dopuštaju provjeru identiteta samo na osnovu glasa. Kažete neku frazu i oni vam odobre prenos novca. To je suludo”, rekao je Altman na događaju u organizaciji američke centralne banke, dodajući da je vještačka inteligencija već nadvladala većinu postojećih metoda provjere identiteta — osim lozinki, prenosi Index.

Rizici AI-ja

U razgovoru s predstavnicima velikih američkih finansijskih institucija, Altman je govorio o širem uticaju vještačke inteligencije na privredu i društvo. Njegov nastup dolazi uoči objave “Akcijskog plana za AI” Bijele kuće, dokumenta koji će definisati politiku SAD prema regulaciji tehnologije i jačanju američke dominacije u području vještačke inteligencije.

OpenAI je već dao preporuke za taj plan i pojačao svoj angažman u Vašingtonu. Kompanijaje najavila da početkom iduće godine otvara svoju prvi kancelariju u glavnom gradu SAD. Tamo će raditi tridesetak ljudi, a ured će voditi Chan Park, šef globalnih poslova za SAD i Kanadu, te Joe Larson, koji dolazi iz odbrambene kompanije Anduril.

Nova kancelarija služiće i kao prostor za edukaciju zvaničnika i nastavnika, predstavljanje novih tehnologija, ali i istraživanje uticaja AI-ja na privredu i dostupnost tehnologije.

Iako Altman otvoreno govori o rizicima, OpenAI se protivi pretjeranoj regulaciji koju bi mogla uvesti Trapova administracija. Početkom jula Senat je izglasao uklanjanje kontroverzne odredbe iz predsjedničkog zakonskog paketa koja bi deset godina zabranjivala saveznim državama donošenje vlastitih zakona o vještačkoj inteligenciji.

Vještačka inteligencija kao oruđe za prevare

Altman nije jedini koji strahuje da će AI podstaknuti talas sofisticiranih prevara. FBI je još prošle godine upozorio na prevare zasnovane na kloniranju glasa i videa. Više roditelja prijavilo je pokušaje prevare u kojima su napadači koristili vještačku inteligenciju kako bi ih uvjerili da su im djeca u nevolji. Nedavno su američki zvaničnici upozorili da je netko AI-jem oponašao glas državnog sekretara Marka Rubija i kontaktirao strane ministre, jednog guvernera i kongresmena.

“Stvarno sam zabrinut da nas čeka velika kriza prevara”, rekao je Altman. “Danas je to glasovni poziv, uskoro će to biti video ili FaceTime koji nećemo moći razlikovati od stvarnosti.”

Napomenuo je da OpenAI ne razvija takve alate za oponašanje ljudi, ali upozorava da će se svijet morati brzo suočiti s tim izazovom. Podržava projekt The Orb, uređaj koji bi trebalo da nudi “dokaz da ste čovjek” u digitalnom prostoru sve zagađenijem AI sadržajem.

Altman se takođe osvrnuo na mogućnost zlouporabe tzv. superinteligentnih AI sustava. Rekao je da ga brine ideja da neprijateljske države, poput Kine, razviju i iskoriste takve sisteme prije nego što ostatak svijeta bude spreman da se odbrani. Kao primjer naveo je mogućnost napada na američku elektroenergetsku mrežu ili izradu biološkog oružja pomoću AI-ja.

Takođe ga zabrinjava mogućnost da ljudi izgube kontrolu nad superinteligentnim sistemima ili im daju previše ovlaštenja  za donošenje odluka.

Koja je tvoja reakcija?

0% Srećno

0% Ravnodušno

0% Zabavno

0% Smiješno

0% Bijesno

0% Tužno