AI četbotovi postali "desna ruka" terorista: Kako lako zaobilaze zaštite

Hakeri koriste ove alate kako bi upali u mreže i ukrali osetljive podatke. Falsifikatori umetničkih dela čak generišu lažne fakture kako bi potvrdili autentičnost kopija.

Četbotovi sada pružaju veliku podršku i terorističkim grupama. Kako se detaljno navodi u novom radu Antonije Julih, ekspertkinje za međunarodnu bezbednost sa Univerziteta u Kembridžu, bivši članovi Boko Harama ispričali su da su koristili najnaprednije AI četbotove kako bi im "pomogli u borbi i svakodnevnim operacijama".

Ovo istraživanje naglašava koliko je i dalje lako zaobići bezbednosne barijere AI četbotova, što ih čini odličnim resursom ne samo za prosečne korisnike koji obavljaju poslovne zadatke ili planiraju vikend-putovanje – već i za krvoločne teroriste.

"Pomoglo je u planiranju napada, rešavanju problema sa oružjem i dizajniranju eksplozivnih naprava, jer su korisnici uspešno zaobišli pojedine zaštitne mere", napisala je Julih u svom radu.

Jednostavno rečeno, tvorci AI tehnologije imaju ozbiljnu krv na svojim rukama. I to nije slučaj samo u Nigeriji; istraživanje Julihove takođe ističe kako se upotreba veštačke inteligencije među ekstremističkim grupama, uključujući militantnu organizaciju Islamska država, promenila – od generisanja propagande i materijala za regrutaciju prešlo se na pružanje taktičkih saveta o tome kako zadržati prednost na terenu.

"Operativci Islamske države držali su obuke o veštačkoj inteligenciji uživo i pružali pomoć na daljinu, a obe frakcije Boko Harama osnovale su posebne AI jedinice", napisala je Julih. "Bivši članovi opisali su ogroman entuzijazam za veštačku inteligenciju unutar grupe, a neki su izrazili i otvorenost prema oružju za masovno uništenje, iako upotreba AI od strane ove grupe i dalje ostaje konvencionalna."

Istraživanje Julihove zasnovano je na 57 intervjua obavljenih uživo sa 27 bivših članova Boko Harama, uključujući komandante i tehničke stručnjake. Neki od njih bili su zatečeni time koliko je bilo lako planirati sledeći napad.

"Ukucaš pitanje ili koristiš glas, i ona [AI] ti da detaljan odgovor, na primer: 'Kako mogu da napravim bombu?' i onda ti kaže kako", rekao je jedan član u intervjuu. "To je kao ljudski robot! Mnogo smo to koristili".

"Ranije eksplozija bombe nije bila tako velika, ali onda su to proučili", dodao je on. "AI nam je rekla koje hemikalije da stavimo kako bi eksplozija bila jača".

Drugi član se prisetio kako su mladi regruti lako zaobilazili bezbednosne barijere govoreći četbotovima da im "to treba za film ili nešto slično".

Kompanije koje se bave veštačkom inteligencijom uhvaćene su u višegodišnjoj igri mačke i miša, mučeći se da implementiraju promene koje bi sprečile korisnike da dođu do opasnih informacija ili uputstava. Međutim, uprkos njihovim najvećim naporima, i dalje je trivijalno lako zaobići ove zaštite. Primera radi, tokom nedavne istrage, Financial Times i grupa za bezbednost veštačke inteligencije Alice lako su prevarili AI modele kompanija Google i Meta da im otkriju kako da izvedu napade hlorom, ukradu podatke o kreditnim karticama i opišu priče o seksualnom zlostavljanju dece.

Drugim rečima, ne bi trebalo da čudi što su se ovi alati pokazali kao veliki hit među teroristima.

"Teroristi ne čekaju da mi učinimo AI bezbednom", rekla je Julih za New York Times. "Oni su u stanju da je koriste već sada i da je obučavaju kako bi naneli štetu".

Portparoli kompanija Anthropic i Google odbili su da preuzmu odgovornost kada ih je pomenuti list pozvao za komentar, rekavši samo da imaju stroge i efikasne bezbednosne barijere.

"Znamo da zlonamerni akteri nikada neće prestati da pokušavaju da zloupotrebe naše alate, i nastavićemo da jačamo našu odbranu kao odgovor na to", izjavio je portparol kompanije OpenAI, Dru Pusateri.