Skupina djevojaka podnijela je prijedlog skupne tužbe protiv tvrtke xAI Elona Muska, tvrdeći da je njezin chatbot Grok korišten za izradu seksualno eksplicitnih slika maloljetnica bez učinkovitog nadzora, izvještavaju Ars Technica i Futurism.
U najtežem opisanom slučaju muškarac je, prema navodima tužbe, Groku dao fotografiju svoje pokćerke snimljenu kad joj je bilo 11 godina te generirao oko 7000 eksplicitnih slika djevojčice. Sigurnosni sustavi chatbota pritom gotovo ništa nisu označili kao sporno: dojava Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC) poslana je tek nakon jedne specifične naredbe, nakon čega su obaviještene vlasti.
Tužba tvrdi da je xAI potom "na svakom koraku opstruirao" istragu, odbijajući predati ključne identifikacijske podatke o korisniku, uključujući IP adresu. Policija je muškarca ipak pronašla i kod njega otkrila veliku zbirku generiranih slika. Dva dana nakon što je pušten uz jamčevinu, ustrijelio se. Djevojčica se u tužbi vodi pod imenom Jane Doe 4. "Imali su sve što je potrebno da pomognu policiji zaustaviti odgovornu osobu i osiguraju pravdu. Umjesto toga, ostali su nijemi", izjavila je, prenosi Ars Technica.
Tužitelji se pozivaju i na podatak NCMEC-a da 90 posto prijava pristiglih iz xAI-ja nije bilo provedivo jer su sadržavale premalo informacija o prijavljenim korisnicima.
Grokova sposobnost izrade seksualiziranih deepfakeova izazvala je buru već tijekom prosinca i siječnja, kada je generirao desetke tisuća lažnih golih fotografija stvarnih žena i djece. Tvrtka Copyleaks tada je procijenila da nastaje po jedna takva slika svake minute, a Centar za borbu protiv digitalne mržnje poslije je izračunao da ih je stvoreno oko tri milijuna, od čega je više od 23.000 prikazivalo djecu.
Musk je zanijekao da je Grok korišten za izradu materijala seksualnog zlostavljanja djece. Tvrtka je nakon kritika generiranje slika najprije ograničila na pretplatnike, a zatim najavila strože zaštitne mjere protiv izrade seksualnih slika stvarnih osoba.
