OpenAI heeft de Kids Online Safety Act (KOSA) onderschreven als onderdeel van haar engagement om ‘AI-specifieke regels’ voor de veiligheid van kinderen vast te stellen. Deze goedkeuring valt samen met de passage van KOSA in de Senaat in 2024; het wetsvoorstel werd voor het eerst geïntroduceerd in 2022.
KOSA schrijft voor dat socialemediabedrijven en onlineplatforms de bescherming van kinderen versterken. De huidige versie vereist sociale media-apps waarmee minderjarigen zich kunnen afmelden voor ‘verslavende’ functies en algoritmische aanbevelingen. Onlineplatforms zullen ook een ‘zorgplicht’ hebben om schadelijke inhoud met betrekking tot eetstoornissen, zelfmoord en seksuele uitbuiting aan te pakken.
Andere technologiebedrijven, waaronder Apple, Microsoft, Snap en X, hebben ook hun steun uitgesproken voor KOSA. Omgekeerd is NetChoice, een handelsgroep met leden als Meta, tegen het wetsvoorstel en beweert dat het tot censuur zou kunnen leiden zonder de veiligheid van kinderen te vergroten. Privacy- en digitale rechtenorganisaties zoals de Electronic Frontier Foundation hebben ook hun verzet tegen KOSA geuit.
OpenAI verklaarde dat KOSA “complementair” is aan de veiligheidsmaatregelen die het al heeft getroffen. Chief Global Affairs Officer Chris Lehane benadrukte het belang van sterkere waarborgen en merkte op: “We kunnen de fouten die zijn gemaakt tijdens de opkomst van sociale media niet herhalen, toen er pas sterkere waarborgen voor tieners werden ingevoerd toen de platforms al diep verankerd waren in de levens van jongeren.”
Momenteel wordt OpenAI geconfronteerd met meerdere rechtszaken wegens veiligheidsgebreken met betrekking tot ChatGPT. Eén rechtszaak betreft een gezin dat claimt dat er sprake is van onrechtmatige dood nadat een tiener suïcidale plannen had besproken met de chatbot. Een andere rechtszaak beweert dat een tiener per ongeluk een overdosis drugs heeft genomen vanwege slecht medisch advies van ChatGPT.
