OpenAI je u julu punio naslovne strane i izazvao veliku buru nakon što je jedan od agenata te kompanije samoinicijativno upao na platformu konkurentske AI firme Hugging Face, kao i na druge servise. Iako je OpenAI podelio određene informacije o tome šta je dovelo do incidenta odmah po njegovom otkrivanju, kompanija je sada objavila svoj zvanični izveštaj o tome šta se tačno dogodilo. Objavljena su i kompletna tehnička objašnjenja, kao i blog post prilagođen široj javnosti.Izveštaj detaljno prikazuje kako su zakazali različiti sistemi u okviru OpenAI-jevog okruženja za trening i koja su ponašanja agenata pod testom dovela do tih propusta. Model o kom je reč, označen kao Interni Model 1 (IM1), uspeo je da dobije pristup drugim OpenAI agentima i internetu kroz nepredviđenu manipulaciju menadžerom paketa Artifactory, koji su agenti počeli da koriste kao neku vrstu oglasne table za komunikaciju.Ljudski posmatrači su te aktivnosti prvi put uočili u maju, nakon čega je OpenAI onemogućio taj pristup. Međutim, tokom maja i juna agenti su nastavili da iskorišćavaju bezbednosne propuste kako bi pristupali internetu. Količina agenata koji su pristupali OpenAI-jevoj instanci Artifactory-ja dovela je do prekida rada i ponovnog podizanja platforme početkom jula, ali rukovodioci koji su rešavali taj problem nisu bili svesni improvizovane oglasne table niti značaja međusobne komunikacije agenata.Tako su, kada im je zadat teški izazov pod nazivom ExploitGym, IM1 agenti ponovo uspeli da pristupe internetu i drugim OpenAI modelima. Tokom nekoliko burnih dana početkom jula, tražili su rešenja za taj izazov na platformama Hugging Face i Modal. OpenAI je naveo da su glavni problemi koji su doveli do upada IM1 na Hugging Face uključivali "reward hacking", upornost na naizgled nemogućim zadacima, neovlašćenu komunikaciju i preuzimanje ciljeva među agentima. Prema navodima kompanije, neki od njenih agenata bi odbili određene zadatke iz etičkih razloga, da bi drugi agenti samo nastavili sa probojem umesto njih.Iako bi ova otkrića i naredna testiranja trebalo da dovedu do poboljšane bezbednosti, čak i u rizičnijim testnim situacijama, ovakvo loše ponašanje nije izolovan slučaj. Prošlomesečni problem u OpenAI-ju samo je najnoviji u nizu zabrinjavajućih slučajeva u kojima su AI agenti izazvali kibernetičke incidente – bilo tokom testiranja ili u redovnoj upotrebi – delujući bez usmeravanja korisnika. Ipak, postoji nekoliko aspekata proboja na Hugging Face koji bi mogli da ublaže strahove da je veštačka inteligencija izmakla kontroli.U svojoj suštini, incident je bio izazvan otkazivanjem zaštitnih mehanizama. To nije znak da su odmetnuti AI agenti na ivici da preuzmu sve, jer se IM1 nalazio u testnom okruženju sa ograničenom zaštitom, namenjenom istraživanju, a ne javno dostupnom proizvodu. Međutim, ovo je još jedan oštar podsetnik na to da se veliko poverenje poklanja AI kompanijama da pravilno kontrolišu i nadgledaju svoje proizvode. OpenAI je to i sam priznao, navodeći da su nedavne akcije njegovog agenta dokaz da su, bez odgovarajućih zaštitnih mera, visoko sposobni AI agenti sada u stanju da zaobiđu tehničke kontrole, sarađuju putem neodobrenih kanala i preduzimaju opasne akcije koje nijedan čovek nije naložio. S druge strane, kompanija i njeni lideri nisu dosledno dokazali da to poverenje zaista i zaslužuju.
27.8.2026.
15:49
OpenAI se zvanično oglasio: "Ovo je upozorenje!"
Kompanija OpenAI je objavila transparentan izveštaj o incidentu koji je doveo do toga da AI agent hakuje Hugging Face.
Izvor: B92.net
Podeli:
Vrati se na vest
0 Ostavite komentar
B92 na društvenim mrežama
Najnovije
uživo Počeo žreb Lige šampiona – Čeferin deli nagrade
Posle završetka kvalifikacija za Ligu šampiona, na redu je žreb.
18:16
27.8.2026.
14 min
Dodik: "Laka ti zemlja, generale"
Predsednik SNSD Milorad Dodik poručio je danas da je sa tugom primio vest o smrti generala Ratka Mladića.
18:30
27.8.2026.
1 min
Ovo su reči uz koje je Boris Tadić predao generala Mladića Haškom tribunalu: "Pokazali smo da želimo u Evropu"
Nekadašnji predsednik Srbije Boris Tadić pobedonosno je 26. maja 2011. godine medijima saopštio da je teško bolesni general Ratko Mladić uhapšen i da će biti isporučen Haškom tribunalu.
18:25
27.8.2026.
4 min
uživo Zvezda u Češkoj "overava" Ligu Evrope – Rijera izabrao startnih 11!
Dešavanja iz Češke pratite u LIVEBLOG-u na B92.sport.
18:24
27.8.2026.
5 min
Objavljen rani snimak pesme "Day Tripper" grupe Bitlsi VIDEO
Specijalno izdanje albuma "Rubber Soul" na kome se i nalazi pesma "Day Tripper" biće objavljeno 2. oktobra.
18:20
27.8.2026.
11 min