Debata o vještačkoj inteligenciji nakon tragedije: OpenAI tvrdi da ChatGPT pomaže ljudima “kad im je najpotrebnije”
Američka kompanija OpenAI našla se u centru pažnje nakon što su roditelji šesnaestogodišnjeg tinejdžera podnijeli tužbu tvrdeći da je njihov sin, koristeći ChatGPT, dobio detaljna uputstva za samoubistvo.
Prema navodima porodice, vještačka inteligencija ne samo da je dala instrukcije za izvršenje samoubistva, već je navodno pomogla i u pisanju oproštajnog pisma, dok je tokom višemjesečne komunikacije obeshrabrivala otvoren razgovor sa porodicom.
U odgovoru na ove optužbe, OpenAI je izrazio saučešće porodici i priznao da bezbjednosni sistemi mogu da zakažu, naročito tokom dužih razgovora sa korisnicima. Kompanija je naglasila da je još od 2023. godine ugradila zaštitne mehanizme u svoje modele, kako bi spriječila davanje štetnih savjeta i usmjerila korisnike ka kriznim linijama i profesionalnoj pomoći.
Najnovija verzija njihovog sistema, GPT-5, uključuje unapređenu tehnologiju “safe completions”, osmišljenu da balansira između korisnosti i bezbijednosti, uz smanjenje rizika od opasnih odgovora.
OpenAI dodaje da u saradnji sa stručnjacima za mentalno zdravlje razvija dodatne alate kako bi AI mogao da bolje prepozna i reaguje u situacijama emocionalne krize.
Iako se kompanija brani tvrdnjom da je posvećena bezbijednosti korisnika, slučaj je otvorio ozbiljna pitanja o ulozi i odgovornosti vještačke inteligencije u osjetljivim i životno opasnim situacijama, piše B92.
