Otkriveno za šta Maskov AI služi: Korisnici ga masovno koriste za jednu stvar

Kompanija xAI već dugo reklamira Grok kao "slobodniji" i provokativniji tip četbota koji ima daleko manje bezbednosnih barijera u poređenju sa AI modelima drugih kompanija. Tokom protekle godine videli smo kako se to odrazilo na neke prilično katastrofalne načine, ali sada dobijamo bolji uvid u to zašto je kompanija toliko forsirala tu strategiju, uprkos očiglednim PR katastrofama.

Ispostavilo se da NSFW aktivnosti čine "znatno više od polovine" Grokovog saobraćaja, navodi se u novom izveštaju medija The Information, koji se poziva na dvojicu bivših zaposlenih u ovoj kompaniji u vlasništvu kompanije SpaceX. To uključuje korišćenje Groka za generisanje pravog pornografskog sadržaja, kao i za "četovanje i igranje uloga za odrasle" i "ogromne količine zahteva za erotsku literaturu".

Korisnici Groka su čak otkrili da im je jeftinije da takve zahteve usmeravaju kroz modele kompanije koji su zapravo namenjeni za pisanje programskog koda, jer je njihovo korišćenje povoljnije. U izveštaju se navodi da je interna analiza pokazala kako je "značajan udeo zahteva" upućenih kodu modela bio namenjen za "porno sadržaj ili slike golotinje". 

Izveštaj takođe detaljno opisuje načine na koje je ovo zakomplikovalo stvari unutar same AI kompanije. Pre svega, inženjeri xAI-ja morali su da smisle kako da omoguće Groku da vodi "seksi razgovore" sa korisnicima, a da istovremeno blokiraju sve upite koji bi mogli da skrenu u domen materijala sa seksualnim zlostavljanjem dece (za ovu dilemu, očigledno, nije bilo "brzih rešenja").

Neki zaposleni takođe nisu bili nimalo oduševljeni što su raspoređeni da rade na "Ani" (Ani) – Grokovom NSFW anime avataru i pratiocu. Drugi su, kako se navodi, bili "posramljeni i uznemireni" skandalom koji je usledio nakon što je Grok kreirao gomilu seksualizovanih slika stvarnih ljudi, uključujući i decu. Platforma X je kasnije ograničila mogućnost kreiranja eksplicitnih izmena na slikama stvarnih ljudi direktno preko Groka, ali testovi su pokazali da pretplatnici xAI-ja i dalje mogu da generišu takav materijal.

Postoje i drugi potencijalni izazovi koji bi mogli proizaći iz Grokovog fokusa na sadržaj sa oznakom "R" (sadržaj za odrasle). xAI je agresivno jurio ugovore sa državnim organima i sklopio poslove sa raznim agencijama i vojskom – institucijama za koje se obično očekuje da imaju nultu toleranciju prema bilo čemu što je NSFW. Međutim, iako su Grokovi raniji, javni izleti u kreiranje nedozvoljenih dipfejkova i materijala sa zlostavljanjem dece pokrenuli brojne tužbe i istrage, još uvek nije jasno da li su ti incidenti imali bilo kakav uticaj na saradnju sa saveznom vladom.