Ekstremisti koriste vještačku inteligenciju za širenje mržnje na društvenim mrežama
Foto: Pixabay
Nasilni ekstremisti sve se vještije služe vještačkom inteligencijom kako bi zaobišli bezbjednosne mjere na društvenim mrežama, dok istovremeno jača novi oblik ekstremizma koji nije vođen ideologijom, već čistom željom za “uništenjem i haosom”. Zbog toga ih je sve teže otkriti i zaustaviti, upozoravaju stručnjaci, piše Sky News.
Nihilistički ekstremizam u porastu
Govoreći na TikTokovom forumu o bezbjednosti u Dablinu, Judy Korn, izvršna direktorica Mreže za prevenciju nasilja, istaknula je da se priroda ekstremizma mijenja uporedno s taktikama koje se koriste.
“Dok islamistički i krajnje desni ekstremizam raste”, rekla je Korn, “najoštriji porast ideologija bilježi se u nejasnom nasilju i nihilističkom nasilnom ekstremizmu.”
Objasnila je kako nihilistički ekstremizam nije vođen nikakvom ideologijom osim pukim “uništenjem i haosom”, što ga čini znatno težim za otkrivanje na društvenim mrežama jer ne aktivira tradicionalne filtere sadržaja koji traže specifične ključne riječi.
Vještačka inteligencija kao alat za širenje mržnje
Istovremeno, nasilni ekstremisti koriste generativnu vještačku inteligenciju za širenje svojih poruka na sofisticiranije načine. Istraga Sky Newsa ranije je pokazala kako platforma X Ilona Maska britanskim korisnicima aktivno gura desničarski i ekstremni sadržaj, nezavisno o njihovim interesima.
“Generativna umjetna inteligencija mnogo je pametnija od nasilnih ekstremista, jer uči brže od ljudskog bića kako proizvesti sadržaj koji prenosi željenu poruku bez kršenja propisa i bez kršenja smjernica platforme”, naglasila je Korn.
Zabrinjavajući trend: Sve mlađi počinilac
Posebno zabrinjava podatak da nasilni ekstremisti postaju sve uhapšenih zbog terorizma je maloljetna.
TikTok najavljuje nove mjere zaštite
Kao odgovor na ove izazove, TikTok je na forumu najavio niz novih mjera za bolju zaštitu korisnika. To uključuje edukativne upute koje će se prikazivati korisnicima u Njemačkoj prilikom pretraživanja pojmova povezanih s ekstremizmom.
Iz platforme su takođe naveli da se 98,9% sadržaja koji krši pravila o organizacijama koje šire mržnju i nasilje uklanja proaktivno, i prije nego što ga korisnici prijave.
Jedna od ključnih novosti je i uvođenje nevidljivog vodenog žiga koji će pomoći korisnicima da prepoznaju sadržaj generisan vještačkom inteligencijom. Iako kompanija već godinama koristi alate za detekciju, poput sistema označavanja C2P koji informacije ugrađuje u metapodatke, oni imaju svoje nedostatke.
“Uobičajeni industrijski izazov je što se ovim metodama oznake mogu ukloniti ako preuzmete sadržaj, ponovno ga učitate ili uredite negdje drugdje”, objasnila je Jade Nester, direktorica javne politike podataka za Evropu u TikToku. “Ovi nevidljivi vodeni žigovi pomažu nam riješiti to dodavanjem robusnog tehnološkog vodenog žiga koji samo mi možemo pročitati.”
Osim mjera u vezi s ekstremizmom, TikTok je najavio i pokretanje novog “centra za dobrobit” u obliku igre, kako bi podstaknuo korisnike da se kroz meditaciju, afirmacije i kontrolu vremena provedenog pred ekranom posvete svom mentalnom zdravlju, prenosi index.
Oznake: AI
