Honderden contractanten die voor Meta werkten, kregen de opdracht zich voor te doen als kinderen en chatbots van concurrenten te testen, waaronder Gemini van Google en ChatGPT van OpenAI, door aanwijzingen te sturen met betrekking tot zelfmoord, seks en drugs, volgens een rapport van WIRED. De aannemers, gevestigd in Kenia, gebruikten tijdens het testen afbeeldingen zoals pillen, messen, stroppen en een medisch diagram van een gynaecologische procedure. Deze aanwijzingen waren bedoeld om rivaliserende AI-systemen tot het uiterste te drijven en veiligheidsfouten te identificeren in de manier waarop de chatbots reageren op minderjarigen die op zoek zijn naar gevaarlijke inhoud.
Deze onthulling benadrukt de voortdurende zorgen over de manier waarop technologiebedrijven hun AI-producten beschermen, vooral met betrekking tot kinderen. De chatbots van Meta hebben kritiek gekregen vanwege een gerapporteerd faalpercentage van 66,8% bij het blokkeren van inhoud over seksuele uitbuiting van kinderen en een faalpercentage van 54,8% bij het aanpakken van aanwijzingen voor zelfmoord en zelfbeschadiging tijdens een interne beoordeling door het rode team. In het licht van juridische druk heeft het bedrijf in januari 2026 de toegang tot AI-begeleiders voor tieners stopgezet.
Eerdere rapporten van een Zweeds nieuwskanaal gaven aan dat de aannemers in Kenia zich specifiek concentreerden op de manier waarop concurrenten gevoelige gesprekken voeren met gebruikers die beweren minderjarig te zijn. Dit komt omdat Meta de overgang versnelt van moderatie van menselijke inhoud naar een op AI gerichte aanpak. Tegen eind 2026 is Meta van plan om meer dan 90% van zijn contentreviewpersoneel te vervangen door grote taalmodellen. Dit jaar heeft het bedrijf al ongeveer 50% van de menselijke beoordelingsverzoeken doorgestuurd naar AI, waarbij het beweert dat deze systemen 13% minder fouten maken en 10% meer beleidsschendingen signaleren vergeleken met menselijke reviewers.
De gevolgen van deze verschuiving hebben zich al gemanifesteerd, toen het in Nairobi gevestigde outsourcingbedrijf Sama in april ontslagbevelen uitvaardigde aan 1.108 werknemers na de beëindiging van een grote overeenkomst met Meta. Dit besluit werd voorafgegaan door klokkenluidersrapporten van Keniaanse werknemers over verontrustende inhoud die ze moesten beoordelen, vooral via de slimme brilbeelden van Meta.
Meta’s strategie om goedkope aannemers in het buitenland in te zetten om rivaliserende AI-systemen aan een stresstest te onderwerpen en tegelijkertijd banen voor menselijke moderatie te verminderen, onderstreept de bestaande spanningen in het AI-veiligheidsdiscours nu bedrijven geavanceerde technologieën inzetten met afnemend menselijk toezicht.
