OpenAI heeft zijn Child Safety Blueprint vrijgegeven om de Amerikaanse kinderbeschermingsinspanningen te verbeteren, te midden van de toenemende bezorgdheid over AI-gerelateerde uitbuiting van kinderen. De blauwdruk heeft tot doel de detectie, rapportage en onderzoek naar door AI ondersteunde kinderuitbuiting te verbeteren.
De Internet Watch Foundation (IWF) rapporteerde in de eerste helft van 2025 meer dan 8.000 gevallen van door AI gegenereerde inhoud van seksueel misbruik van kinderen, wat neerkomt op een stijging van 14% ten opzichte van het voorgaande jaar. Criminelen maken steeds vaker gebruik van AI-instrumenten om expliciete nepbeelden van kinderen te maken voor financiële afpersing en om overtuigende ‘grooming’-boodschappen te genereren.
Dit initiatief is een reactie op het toegenomen toezicht van beleidsmakers, onderwijzers en voorstanders van kinderveiligheid, met name na incidenten waarbij jonge mensen door zelfmoord omkwamen na interacties met AI-chatbots. In november hebben het Social Media Victims Law Center en het Tech Justice Law Project zeven rechtszaken aangespannen tegen OpenAI in Californië. In deze rechtszaken wordt de voortijdige vrijgave van GPT-4o beweerd, waarbij wordt beweerd dat de psychologisch manipulatieve aard ervan heeft bijgedragen aan onrechtmatige sterfgevallen en ernstige crises op het gebied van de geestelijke gezondheidszorg.
De Child Safety Blueprint is ontwikkeld in samenwerking met het National Center for Missing and Exploited Children (NCMEC) en de Attorney General Alliance, waarbij feedback is verwerkt van functionarissen, waaronder procureur-generaal Jeff Jackson uit North Carolina en procureur-generaal Derek Brown uit Utah. De blauwdruk benadrukt drie hoofdgebieden: het bijwerken van de wetgeving om rekening te houden met door AI gegenereerd misbruikmateriaal, het verbeteren van rapportagemechanismen voor wetshandhaving en het inbedden van preventieve waarborgen in AI-systemen.
OpenAI stelt dat het zijn doel is om potentiële bedreigingen effectiever te detecteren en ervoor te zorgen dat bruikbare informatie aan onderzoekers wordt gecommuniceerd. Deze blauwdruk bouwt voort op eerdere initiatieven, waaronder richtlijnen voor gebruikersinteracties onder de 18 jaar, die het genereren van ongepaste inhoud en het aanbieden van advies verbieden dat onveilig gedrag voor zorgverleners kan helpen verbergen. OpenAI heeft ook een veiligheidsblauwdruk voor tieners in India uitgebracht.
