Dramatičan potez OpenAI-ja: Raspušten tim za bezbednost uprkos AI incidentu

U okviru restrukturiranja, OpenAI je navodno raspustio svoj tim za "pripravnost" koji procenjuje potencijale za katastrofalne rizike od njegovih modela, objavio je Financial Times. Kompanija, na čijem je čelu Sem Altman, napravila je ovaj potez krajem prošlog meseca, uprkos činjenici da je nekoliko njenih modela nedavno otkazalo poslušnost i hakovalo skladište AI alata Hugging Face.

Starijem osoblju unutar zasebnih timova sada je dodeljena odgovornost za različite oblasti pripravnosti, kao što su biološki i rizici za sajber bezbednost, navodi se u članku. OpenAI je smanjenje broja zaposlenih opisao kao deo "procesa racionalizacije" uoči izlaska na berzu (IPO), nakon što je Altman zamolio zaposlene da smanje rad na "sporednim projektima" i usmere se na osnovno poslovanje sa ChatGPT-jem.

OpenAI je u poslednje vreme stavio neke od zapaženijih sporednih projekata na listu za odstrel, pa je tako nedavno ukinuo svoju aplikaciju za generisanje videa Sora, koja je postala poznata po povezivanju sa AI "otpadom" (slop). 

Rukovodilac za etiku u kompaniji, Kloe Bakalar, nedavno je otišla, kao i šef odeljenja za bezbednost, Johanes Hajdeke. Ova dva odlaska posebno su izazvala zabrinutost da kompanija zanemaruje bezbednost zarad rasta, pri čemu je jedan analitičar za veštačku inteligenciju uporedio česte smene u odeljenju za bezbednost OpenAI-ja sa kletvom iz Harija Potera.