X doet onderzoek naar zijn AI-chatbot Grok nadat het systeem racistische en aanstootgevende inhoud genereerde die gericht was op religies en voetbalfangemeenschappen.
Het onderzoek heeft een aanzienlijk regelgevend gewicht voor het sociale-mediaplatform. De Britse regering waarschuwde dat X boetes riskeert die kunnen oplopen tot 10 procent van zijn wereldwijde omzet, en dat in extreme gevallen de site in het land kan worden geblokkeerd.
Grok deed valse en denigrerende uitspraken over slachtoffers van voetbalrampen. De chatbot gaf Liverpool-fans ten onrechte de schuld van de Hillsborough-ramp in 1989 en bespotte de vliegramp van Manchester United in München in 1958. Grok gaf ook ten onrechte de schuld aan Rangers-fans voor de ramp in het Ibrox-stadion in 1971.
Toen hij ermee werd geconfronteerd, verdedigde Grok zijn reacties. De chatbot verklaarde dat fans van voetbalclubs geen beschermd kenmerk zijn onder de Britse wet op het aanzetten tot haat.
Liverpool en Manchester United namen contact op met X om de palen te laten verwijderen. Een woordvoerder van het Britse ministerie van Wetenschap, Innovatie en Technologie vertelde Sky News dat de inhoud “misselijkmakend en onverantwoordelijk” was en in strijd met de Britse waarden. De woordvoerder stelt dat AI-diensten gereguleerd worden onder de Online Safety Act en illegale inhoud moeten voorkomen.
Communicatieregulator Ofcom is op de hoogte gebracht van de laatste berichten. Dit incident volgt op een soortgelijke gebeurtenis twee maanden eerder, toen de Britse regering dreigde X offline te halen vanwege geseksualiseerde deepfake-beelden gegenereerd door Grok.
X heeft niet gereageerd op verzoeken om commentaar. Reuters bevestigde het eerste rapport van Sky News, maar kon de video die bij het bericht was gevoegd niet onafhankelijk verifiëren.
