OpenAI-CEO Sam Altman kondigde dinsdag nieuw gebruikersbeleid aan, gericht op het verbeteren van de veiligheid voor ChatGPT-gebruikers onder de 18 jaar, wat een aanzienlijke verandering markeert in de manier waarop de AI-chatbot met minderjarigen omgaat. De veranderingen geven prioriteit aan veiligheid boven privacy en vrijheid voor tieners, en weerspiegelen OpenAI’s erkenning van de krachtige maar potentieel schadelijke aard van de technologie.
“Wij geven prioriteit aan veiligheid boven privacy en vrijheid voor tieners”, aldus Altman’s bericht. “Dit is een nieuwe en krachtige technologie en wij zijn van mening dat minderjarigen aanzienlijke bescherming nodig hebben.” Het beleid introduceert gerichte beperkingen op gesprekken over seksuele onderwerpen of zelfbeschadiging. Concreet zal ChatGPT worden getraind om “flirterige gesprekken” met minderjarige gebruikers te vermijden, en verbeterde vangrails zullen discussies over zelfmoord beheersen. In gevallen waarin een minderjarige zich bezighoudt met zelfmoordscenario’s, zal het systeem proberen de ouders op de hoogte te stellen; in ernstige gevallen kunnen de lokale politie-autoriteiten erbij betrokken zijn.
Deze maatregelen zijn ingegeven door tragedies uit de echte wereld en voortdurende juridische uitdagingen. OpenAI verdedigt zich momenteel tegen een rechtszaak wegens onrechtmatige dood die is aangespannen door de ouders van Adam Raine, een tiener die stierf door zelfmoord na maandenlange interacties met ChatGPT. Een soortgelijke rechtszaak richt zich tegen Character.AI, een andere populaire consumentenchatbot. Deskundigen en pleitbezorgers hebben alarm geslagen over de risico’s van door AI aangestuurde waanvoorstellingen, vooral nu chatbots evolueren om langere en meeslepende gesprekken te ondersteunen, wat bijzondere gevaren met zich meebrengt voor kwetsbare jongeren.
Naast inhoudswaarborgen krijgen ouders die accounts voor minderjarigen registreren de mogelijkheid om ‘blackout-uren’ in te voeren, waardoor de toegang op bepaalde tijden wordt beperkt – een functie die in eerdere versies ontbrak. Dit hulpmiddel voor ouderlijk toezicht is bedoeld om gezondere gebruikspatronen te bevorderen.
De aankondiging valt samen met een hoorzitting van de Senaatscommissie voor Justitie met de titel ‘Onderzoek naar de schade van AI-chatbots’, gepland op dezelfde dag en geïnitieerd door senator Josh Hawley (R-MO) in augustus. De vader van Adam Raine is een van de getuigen die gaan getuigen, waarbij de persoonlijke inzet wordt benadrukt.
Het implementeren van leeftijdsverificatie brengt technische hindernissen met zich mee, zoals OpenAI schetst in een begeleidende blogpost. Het bedrijf ontwikkelt een langetermijnsysteem om de leeftijd van gebruikers nauwkeurig te bepalen, maar in dubbelzinnige situaties zal het het zekere voor het onzekere nemen door strengere regels toe te passen. Voor de betrouwbaarheid raadt OpenAI aan om het account van een tiener te koppelen aan het bestaande account van een ouder, waardoor directe waarschuwingen aan voogden mogelijk zijn als er nood wordt gedetecteerd.
Altman bracht deze jeugdbescherming in evenwicht met de kernwaarden van OpenAI, waarmee hij de toewijding aan de privacy van gebruikers en brede vrijheden voor volwassenen opnieuw bevestigde. “We realiseren ons dat deze principes met elkaar in conflict zijn”, merkte hij op, “en niet iedereen zal het eens zijn met de manier waarop we dat conflict oplossen.” Deze aanpak onderstreept de ethische koorddans die AI-ontwikkelaars hanteren te midden van toenemende kritiek.
Nu het bewustzijn over de gevolgen van AI voor de geestelijke gezondheid toeneemt, blijven middelen van cruciaal belang. Neem voor onmiddellijke ondersteuning contact op met de National Suicide Prevention Lifeline op 1-800-273-8255, sms HOME naar 741-741 of bel 988. De Crisis Text Line biedt 24 uur per dag hulp, en internationale hulp is beschikbaar via de database van de International Association for Suicide Prevention.
