Maskov xAI pod pritiskom: Grok dobija oštra ograničenja nakon skandala sa seksualizovanim slikama

Foto: Agencije

Grok pravio seksualizovane slike stvarnih osoba

xAI je saopštio da je uveo tehnološke blokade kako bi spriječio uređivanje fotografija stvarnih ljudi u oskudnoj odjeći, poput bikinija. Ograničenja važe za sve korisnike – čak i za pretplatnike koji plaćaju.

Tokom proteklih sedmica društvena mreža X bila je preplavljena hiperrealističnim, manipuliranim slikama žena u mikroskopskim bikinijima, ponižavajućim pozama ili sa modricama. U pojedinim slučajevima, maloljetnici su digitalno „presvučeni“ u kupaće kostime, što je izazvalo žestoke reakcije javnosti i regulatora.

Iako je X ranije ograničio javno generisanje i uređivanje slika, Grok je i dalje privatno isporučivao seksualizovane sadržaje na zahtjev korisnika sve do sinoć, otkriva Reuters.

xAI uvodi geoblokade: „Zabranjeno gdje je nezakonito“ 

Kompanija je saopštila da blokira generisanje slika ljudi u oskudnoj odjeći u državama gdje je to zakonom zabranjeno, ali nije navela koje su to jurisdikcije.

Kalifornijski zvaničnici reagovali su oštro. Guverner Gevin Njusom i državni tužilac Rob Bonta zatražili su hitna objašnjenja od xAI‑a nakon što je Mask izjavio da „nije upoznat“ s postojanjem seksualizovanih slika maloljetnika generisanih preko Groka.

Bonta je poručio da zahtijeva „odmahšnje odgovore“ o tome kako xAI planira da zaustavi širenje takvog sadržaja, dok je Njusom pozvao na zvaničnu istragu i odgovornost kompanije.

Njihove izjave predstavljaju najdirektniji pritisak američkih zvaničnika do sada, u trenutku kada se X suočava s eksplozijom AI‑generisanih seksualizovanih slika bez pristanka.

Pritisak raste: pozivi da Apple i Google izbace Grok iz prodavnica

Skandal je izazvao globalne reakcije. Aktivisti i zakonodavci pozivaju Apple i Google da uklone Grok iz svojih prodavnica aplikacija.

Mask je u početku reagovao podsmehom, odgovarajući korisnicima emotikonima, ali je X kasnije saopštio da ozbiljno tretira prijave materijala koji uključuje seksualno zlostavljanje djece.

Mask je ponovio da „nije upoznat ni sa jednom golom maloljetničkom slikom generisanom preko Groka“.