Terwijl Amerikaanse beleidsmakers en mediakoppen zich historisch gezien hebben gericht op platforms als Instagram, Facebook, YouTube, TikTok en X, vindt er een significante verschuiving plaats nu jongeren steeds vaker gaming en gaming-aangrenzende platforms gebruiken voor sociale interactie. Deze gesprekken, die plaatsvinden op services zoals Discord, Roblox en Steam, zijn doorgaans anoniem en grotendeels verborgen voor het publiek.
Deze platforms, oorspronkelijk ontworpen om gamers met elkaar te verbinden, zijn uitgegroeid tot primaire hubs voor sociaal discours en authentieke interactie, vooral omdat reguliere applicaties prioriteit geven aan inhoud die is ontworpen voor viraliteit. Deze evolutie heeft nieuw onderzoek met zich meegebracht, met de nadruk op de manier waarop deze gesloten fora haat en uitbuiting kunnen herbergen, problemen die vaak verborgen blijven totdat ze zich manifesteren in echte schade.
Reguliere sociale media-apps zijn gestructureerd om inhoud publiekelijk te verheffen en uit te breiden, waardoor ze effectieve hulpmiddelen zijn voor het verspreiden van ideologieën, geruchten of desinformatie. Veel van deze ideeën wortelen echter eerst in kleinere, meer besloten forums op spelplatforms. Extremistische groepen die uit de reguliere dienstverlening zijn verwijderd, hebben als gevolg hiervan nieuwe onderkomens gevonden in deze ruimtes.
In tegenstelling tot openbare apps zijn gebruikers op gamingplatforms meer gewend om met pseudoniemen te werken. Deze praktijk van het gebruik van pseudo-identiteiten vergemakkelijkt de anonieme uitwisseling van radicale en taboe-ideeën.
Mariana Olaizola Rosenblat, beleidsadviseur technologie en recht bij NYU Stern, legt uit dat de architectuur van deze op gaming gerichte platforms een sleutelfactor is in de verspreiding van gevaarlijke inhoud. “Extremisten en roofdieren gaan naar deze speelruimtes om zeer betrokken, gevoelige jonge mensen te vinden, van wie velen verlangen naar verbinding”, zegt ze.
De kleinere privéchatrooms waar vaak schadelijke gesprekken plaatsvinden, zijn doorgaans afgesloten voor waarnemers van buitenaf. “De meeste onderzoekers zijn hier feitelijk blind voor. Je kunt deze kamers niet betreden”, merkt Rosenblat op. Gebruikers maken ook gebruik van de gamingcontext en gebruiken ‘gamespeak’ om extremistische of gevaarlijke concepten te verhullen, waardoor het onderscheid tussen rollenspel en echte bedoelingen vervaagt. Hoewel de platforms zelf technische toegang hebben tot deze inhoud, maakt het enorme volume het monitoren ervan tot een aanzienlijke uitdaging. Rosenblat merkt op dat de meesten niet voldoende hebben geïnvesteerd in de waarborgen of moderatiemiddelen die nodig zijn om jonge gebruikers te beschermen.
Het is belangrijk op te merken dat de meeste gesprekken op deze platforms gewoon zijn. Ze variëren van discussies over gamen en deelname aan studiegroepen tot sportfandoms en buurtforums. Niettemin zijn deze zelfde omgevingen ook een vruchtbare voedingsbodem geworden voor radicalisering en uitbuiting, waarbij een groeiend aantal incidenten de kwestie aan het licht brengt.
Discord wordt opnieuw onder de loep genomen nadat de verdachte van de moord op Charlie Kirk leek te bekennen in een Discord-chat. Het platform werd ook gebruikt door de organisatoren van de Unite the Right-rally van 2017 in Charlottesville om de logistiek te coördineren, inclusief carpoolen en accommodatie. Bij een afzonderlijk incident documenteerde de schutter die in 2022 tien mensen doodde in een zwarte wijk van Buffalo maanden van zijn planning in een privé Discord-chat. Bovendien bracht een onderzoek uit 2018 door The Daily Beast honderden gevallen aan het licht waarin wraakporno werd gedeeld via Discord-servers.
Roblox, een platform dat rechtstreeks op kinderen is gericht, heeft scherpe kritiek geuit vanwege de seksuele, roofzuchtige en extremistische inhoud die op zijn dienst verschijnt. Het bedrijf wordt momenteel geconfronteerd met meerdere rechtszaken. Eén rechtszaak, aangespannen door de staat Louisiana, beweert dat Roblox er niet in is geslaagd kinderen te beschermen. Een ander werd ingediend door een familie uit Iowa nadat hun 13-jarige dochter was ontvoerd, verhandeld en verkracht door een roofdier dat ze op het perron had ontmoet.
Een woordvoerder van Roblox legde een verklaring af over zijn veiligheidspraktijken:
“Hoewel we geen commentaar kunnen geven op claims die in rechtszaken naar voren zijn gebracht, streven we er bij Roblox naar om aan de hoogste veiligheidsnormen te voldoen. We investeren aanzienlijke middelen in geavanceerde veiligheidstechnologie, waaronder een combinatie van machine learning en menselijke moderatieteams die 24/7 werken om ongepaste inhoud en gedrag op te sporen en aan te pakken.”
De schietpartij in Buffalo in 2022 werd live gestreamd op Twitch, het gamingplatform van Amazon. Twitch veroordeelde de aanval, verwijderde de video snel en verklaarde dat het nauw samenwerkte met de politie om het incident te onderzoeken.
In 2021 ontdekten onderzoekers dat het platform Steam een netwerkruimte was geworden voor extreemrechtse ideologieën, waar groepen werden gehost die neonazistische organisaties promootten.
Na de moord op Charlie Kirk krijgen gamingplatforms steeds meer aandacht van Amerikaanse beleidsmakers. House Oversight-voorzitter James Comer (R-Ky.) heeft de CEO’s van Discord, Steam, Twitch en Reddit gevraagd om op 8 oktober voor het Congres te getuigen over de kwestie van gebruikersradicalisering op hun platforms.
