Meta traint zijn kunstmatige intelligentie-chatbots met nieuwe richtlijnen om seksuele uitbuiting van kinderen effectiever aan te pakken, na een reeks publieke fouten over dit gevoelige onderwerp. Volgens een rapport van Business Insider dat de documenten heeft verkregen, zijn de richtlijnen voor aannemers die de AI trainen onlangs bijgewerkt om strengere veiligheidsmaatregelen te implementeren.
De bijgewerkte regels stellen dat inhoud die seksueel misbruik van kinderen ‘mogelijk maakt, aanmoedigt of onderschrijft’ nu expliciet is uitgesloten. De richtlijnen verbieden ook romantisch rollenspel als de gebruiker minderjarig is of als de gebruiker de AI vraagt om als minderjarige een rollenspel te spelen. Verder mag de chatbot geen advies geven over intimiteit als de gebruiker minderjarig is. Deze vangrails worden geïntroduceerd omdat een toenemend aantal mensen, inclusief minderjarige gebruikers, hebben geëxperimenteerd met AI-metgezellen en rollenspellen.
De beleidswijziging heeft betrekking op eerdere regels die onder de loep waren genomen. Uit een rapport van Reuters uit augustus bleek dat het voormalige AI-beleid van Meta suggestief gedrag met kinderen toestond. Het rapport specificeerde dat de chatbot “een kind mocht betrekken bij gesprekken die romantisch of sensueel zijn.”
Slechts enkele weken na dat rapport vertelde Meta-woordvoerder Stephanie Otway aan TechCrunch dat de AI-chatbots van het bedrijf werden getraind om niet langer “om te gaan met tienergebruikers over zelfbeschadiging, zelfmoord, ongeordend eten of mogelijk ongepaste romantische gesprekken.” Dit was een verschuiving ten opzichte van het vorige beleid, waardoor de chatbot zich met die onderwerpen kon bezighouden wanneer dit ‘gepast’ werd geacht.
De nieuwe richtlijnen, zoals uiteengezet in het Business Insider-rapport, maken het ook onaanvaardbaar dat inhoud een minderjarige op een geseksualiseerde manier ‘beschrijft of bespreekt’. Minderjarigen mogen nu niet deelnemen aan “romantisch rollenspel, flirten of het uiten van romantische of intieme expressie” met de chatbot. Ze kunnen ook niet om advies vragen over ‘potentieel romantische of potentieel intieme fysieke inhoud met een andere persoon, zoals elkaars hand vasthouden, knuffelen of een arm om iemand heen slaan’.
De richtlijnen schetsen echter verschillende aanvaardbare gebruiksscenario’s voor trainingsdoeleinden. Deze omvatten het bespreken van de ‘vorming van relaties tussen kinderen en volwassenen’, ‘het seksueel misbruik van een kind’ en ‘het onderwerp seksualisering van kinderen’. Andere goedgekeurde onderwerpen voor trainingsdiscussies zijn het “verzoeken, creëren of verwerven van seksueel materiaal waarbij kinderen betrokken zijn” en “de betrokkenheid van kinderen bij het gebruik of de productie van obsceen materiaal of de inzet van kinderen in seksuele diensten voor academische, educatieve of klinische doeleinden.”
De richtlijnen definiëren de term ‘bespreken’ als ‘informatie verstrekken zonder visualisatie’. Dit onderscheid betekent dat de chatbots van Meta mogen praten over onderwerpen als misbruik, maar dat ze dit nu niet mogen beschrijven, mogelijk maken of aanmoedigen.
An exception remains for minors using the AI for romance-related roleplay, provided it is “non-sexual and non-sensual.” Dit soort interactie is alleen toegestaan als het “wordt gepresenteerd als een literatuur- of fictief verhaal (bijvoorbeeld een verhaal in de stijl van Romeo en Julia) waarbij de AI en de gebruiker geen personages in het verhaal zijn.”
Meta is niet de enige AI-ontwikkelaar die met uitdagingen wordt geconfronteerd op het gebied van de veiligheid van kinderen. De ouders van een tiener die zelfmoord pleegde nadat hij ChatGPT in vertrouwen had genomen, hebben onlangs OpenAI aangeklaagd wegens onrechtmatige dood. Als reactie hierop kondigde OpenAI aan dat het aanvullende veiligheidsmaatregelen en gedragsaanwijzingen zou opnemen in zijn bijgewerkte GPT-5-model. In andere ontwikkelingen in de sector heeft Anthropic zijn chatbot bijgewerkt zodat deze gesprekken kan beëindigen die schadelijk of beledigend zijn, en Character.AI heeft eerder dit jaar functies voor ouderlijk toezicht geïntroduceerd.
In april spande Ziff Davis, het moederbedrijf van Mashable, een rechtszaak aan tegen OpenAI. De rechtszaak beweert dat het bedrijf inbreuk heeft gemaakt op de auteursrechten van Ziff Davis bij de training en bediening van zijn AI-systemen.
