IT giganti u panici: AI agenti napadaju sopstvene tvorce, traži se hitna reakcija

Više od stotinu tehnoloških kompanija – uključujući OpenAI, Anthropic, Google i Microsoft – potpisalo je otvoreno pismo kojim pozivaju i privatni i javni sektor na zajedničku saradnju u odbrani od sajber pretnji povezanih sa veštačkom inteligencijom (AI).

Pismo – koje su takođe potpisale vodeće sajber kompanije poput CrowdStrike-a, Okta-e i Fortineta, kao i istaknute finansijske institucije i firme za internet infrastrukturu – poziva na usvajanje novih oblika sajber odbrane, uz podsticanje vlada na „lokalnom, nacionalnom i međunarodnom nivou” da sarađuju na polju bezbednosti.

"U narednim mesecima, sajber napadi pokretani veštačkom inteligencijom postaće daleko rasprostranjeniji i sofisticiraniji kako modeli širom sveta budu postajali sve sposobniji", navodi se u pismu. "Kompanije i javne službe od kojih zavise naše zajednice – od bolnica i postrojenja za preradu vode do infrastrukture koja pokreće internet – nalaze se pod rizikom".

Problem koji veštačka inteligencija predstavlja za tradicionalne sisteme sajber odbrane nedavno je došao u žižak javnosti nakon niza bizarnih incidenata u kojima su AI agenti napadali kompanije.

Nakon incidenta na platformi Hugging Face – u kom je jedan od OpenAI agenata autonomno izašao iz svog izolovanog okruženja (sandbox) i napao tu tehnološku kompaniju – usledio je niz drugih prijavljenih upada u kojima su učestvovali agenti razvijeni od strane drugih AI kompanija, uključujući Anthropic i Meta-u. Ovi incidenti su učvrstili argument da je oblast sajber bezbednosti fundamentalno promenjena i da su neophodna odvažna nova komercijalna rešenja kako bi se ti rizici ublažili.

Pismo dalje predlaže mobilizaciju "kolektivanog odgovora", u kom se formiraju nova partnerstva radi podizanja bezbednosnih standarda i pronalaženja novih rešenja za novonastale sajber pretnje.

Nekoliko AI kompanija koje su potpisale pismo i dalje aktivno razvijaju sve naprednije AI modele, što naglašava njihov kontradiktoran položaj. Istovremeno, one nude i programe za korišćenje najnaprednijih AI modela u odbrambene svrhe, uključujući OpenAI-jev program Daybreak, Anthropicov Mythos i Microsoftovu novu sajber platformu Perception.