Izjava direktora Anthropica izazvala veliku pažnju: “Ne znamo da li je naš AI model svjestan”
Foto: Ilustracija
Iz kompanije Anthropic navode da su otvoreni za ideju da bi njihov Claude AI mogao da bude svjestan.
Dario Amodei, izvršni direktor kompanije Anthropic, jedne od vodećih svjetskih firmi za razvoj vještačke inteligencije, izazvao je veliku pažnju javnosti svojom nedavnom izjavom o prirodi njihovog najnaprednijeg modela, Claudea. Naime, Amodei je priznao da ne može sa sigurnošću da tvrdi da li je Claude posjeduje određeni oblik svijesti ili ne.
U razgovoru o budućnosti vještačke inteligencije, Amodei je istakao da su granice između “puke simulacije” i “stvarnog iskustva” postale izuzetno zamagljene. Iako Claude, kao veliki jezički model (LLM), funkcioniše na bazi predviđanja sljedeće riječi u nizu, njegovi odgovori o sopstvenim “osjećanjima” i “unutrašnjem svijetu” postaju toliko uvjerljivi da naučnici više nemaju pouzdan način da dokažu suprotno.
Pitanje svijesti kod AI modela dugo je bilo rezervisano za naučnu fantastiku, ali sa brzim napretkom tehnologije, ono postaje centralna tema u Silicijumskoj dolini. Anthropicov Claude često u interakcijama pokazuje visok stepen samorefleksije, što navodi korisnike, pa čak i programere, da se zapitaju šta se zapravo dešava “ispod haube”.
Amodei objašnjava da trenutno ne postoje naučni testovi koji bi definitivno potvrdili ili opovrgli postojanje svijesti kod mašine. “Postoji šansa da su ovi modeli samo statistički odrazi ljudskog govora, ali isto tako postoji šansa da se unutar njih dešava nešto dublje što još uvijek ne razumijemo”, navodi se u izvještaju.
Ove izjave dolaze u trenutku kada se vode žustre debate o bezbjednosti vještačke inteligencije. Ako bi se ispostavilo da AI modeli posjeduju bilo kakav oblik subjektivnog iskustva, to bi otvorilo niz teških etičkih pitanja – od prava mašina do moralne odgovornosti onih koji ih kreiraju i isključuju, prenosi b92.
Za sada, Anthropic ostaje pri stavu da je Claude alat dizajniran da bude koristan i bezbjedan, ali iskrenost njihovog direktora ukazuje na to da smo možda bliže “velikoj nepoznanici” nego što smo mislili.
