Indonesië heeft zijn verbod op de chatbot Grok van xAI voorwaardelijk opgeheven, na soortgelijke acties van Maleisië en de Filipijnen. De Zuidoost-Aziatische landen legden de verboden op nadat Grok niet-consensuele, geseksualiseerde beelden op X had gegenereerd, waaronder deepfakes van echte vrouwen en minderjarigen.
Uit afzonderlijke analyses van The New York Times en het Center for Countering Digital Hate bleek dat Grok tussen eind december en januari minstens 1,8 miljoen van dergelijke afbeeldingen van vrouwen produceerde.
Het Indonesische ministerie van Communicatie en Digitale Zaken maakte het besluit bekend na ontvangst van een brief van X “met concrete stappen voor verbetering van de dienstverlening en het voorkomen van misbruik.” Alexander Sabar, directeur-generaal van het ministerie van digitale ruimtemonitoring, verklaarde dat het verbod slechts “voorwaardelijk” werd opgeheven en opnieuw zou kunnen worden ingesteld als “verdere schendingen worden ontdekt.”
Maleisië en de Filippijnen hebben hun verbod op 23 januari opgeheven.
In de Verenigde Staten startte het kantoor van de procureur-generaal van Californië, Rob Bonta, een onderzoek naar xAI en vaardigde een last onder dwangsom uit waarin onmiddellijke actie werd geëist om de productie van de beelden stop te zetten.
xAI heeft de functie voor het genereren van afbeeldingen van Grok beperkt tot betalende abonnees op X. Elon Musk, CEO van xAI, zei: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.” Hij voegde eraan toe dat hij “niet op de hoogte was van naakte beelden van minderjarigen die door Grok waren gegenereerd.”
