Een bug in de moderatietools van Discord leidde tot foutieve accountblokkeringen vanaf mei 2026, zoals gerapporteerd door het ondersteuningsteam van het bedrijf op X op 7 juli 2026. Ongeveer 200 accounts werden ten onrechte verboden gedurende een recent weekend, terwijl het probleem mogelijk gevolgen heeft gehad voor ongeveer 8.200 accounts sinds het begin.
De bug betrof de verkeerde classificatie van berichten met vierkante rasterafbeeldingen, die ten onrechte waren gemarkeerd als materiaal voor seksueel misbruik van kinderen. Dit resulteerde in een verbod op een reeks onschadelijke inhoud, waaronder spreadsheets, schaakborden en game-inventarismenu’s.
Discord erkende de ernst van het probleem en zei: “We weten dat dit geen bevredigende verklaring is als dit jouw account was, en we hadden dit eerder moeten onderkennen.” Het bedrijf werkt aan het verbeteren van de veiligheidsmaatregelen om soortgelijke problemen in de toekomst te voorkomen. Het ondersteuningsteam van Discord merkte op dat het bekend is dat hun AI-gestuurde moderatietools valse positieven genereren.
Doorgaans ondergaan gemarkeerde accounts een menselijke beoordeling door de Trust & Veiligheidsteam voordat er sancties worden toegepast. Het beoogde protocol bestond uit het tijdelijk onderbreken van uploads tijdens de beoordelingsperiode, in plaats van de gebruiker te verbannen. De bug zorgde er echter voor dat accounts ten onrechte werden verbannen en verhinderde ook automatisch herstel na een succesvolle beoordeling.
Discord noemde het incident “een gênante fout” die ongeveer twee maanden aanhield. Het bedrijf bevestigde dat accounts die ten onrechte zijn uitgesloten als gevolg van deze bug, nu moeten worden hersteld.
