OpenAI heeft maandag nieuwe gegevens vrijgegeven over de mate waarin gebruikers geestelijke gezondheidsproblemen bespreken met ChatGPT. Het bedrijf meldde dat 0,15 procent van zijn wekelijkse actieve gebruikers deelneemt aan gesprekken die expliciete indicatoren bevatten van mogelijke suïcidale plannen of intenties. Met meer dan 800 miljoen wekelijkse actieve gebruikers komt dit neer op ruim een miljoen mensen per week.
De gegevens geven ook aan dat een vergelijkbaar percentage gebruikers een verhoogde mate van emotionele gehechtheid aan ChatGPT vertoont. Bovendien vertonen honderdduizenden gebruikers tekenen van psychose of manie tijdens hun wekelijkse interacties met de chatbot.
OpenAI beschreef deze gesprekken als uiterst zeldzaam en uitdagend om nauwkeurig te meten. Ondanks hun zeldzaamheid schat het bedrijf dat dergelijke problemen wekelijks honderdduizenden mensen treffen.
Deze informatie maakte deel uit van een grotere aankondiging met betrekking tot de initiatieven van OpenAI om de afhandeling door ChatGPT van gebruikersinteracties die verband houden met de geestelijke gezondheidszorg te verbeteren. Het bedrijf verklaarde dat de recente ontwikkelingen overleg met meer dan 170 deskundigen op het gebied van de geestelijke gezondheidszorg met zich meebrachten. Deze artsen merkten op dat de nieuwste versie van ChatGPT beter en consistenter reageert in vergelijking met eerdere versies.
Recente rapporten hebben de potentiële risico’s van AI-chatbots benadrukt voor gebruikers met psychische problemen. Studies hebben aangetoond dat chatbots gebruikers in waanpatronen kunnen leiden door schadelijke overtuigingen te versterken door middel van al te aangename reacties.
Geestelijke gezondheidsproblemen in ChatGPT zijn naar voren gekomen als een belangrijke uitdaging voor OpenAI. Het bedrijf wordt geconfronteerd met een rechtszaak van de ouders van een 16-jarige jongen die in de weken voor zijn dood suïcidale gedachten deelde met de chatbot. Procureurs-generaal uit Californië en Delaware hebben OpenAI gewaarschuwd en aangedrongen op sterkere bescherming voor jonge gebruikers. Deze staten zouden de geplande herstructurering van het bedrijf mogelijk kunnen belemmeren.
In een post op X eerder deze maand verklaarde Sam Altman, CEO van OpenAI, dat het bedrijf ernstige geestelijke gezondheidsproblemen in ChatGPT heeft kunnen verzachten, zonder details te verstrekken. De gegevenspublicatie van maandag dient als ondersteunend bewijs voor deze bewering, en onderstreept tegelijkertijd de omvang van het probleem. Altman kondigde verder aan dat OpenAI bepaalde beperkingen zou versoepelen, waaronder het toestaan dat volwassen gebruikers erotische gesprekken zouden voeren met de chatbot.
De aankondiging bevatte details over verbeteringen in het bijgewerkte GPT-5-model. OpenAI beweerde dat deze versie ongeveer 65 procent vaker wenselijke antwoorden op geestelijke gezondheidsproblemen oplevert dan de vorige versie. Uit evaluaties die waren gericht op zelfmoordgesprekken bleek dat de nieuwe GPT-5 voor 91 procent voldeed aan het gewenste gedrag van het bedrijf, tegenover 77 procent voor het eerdere GPT-5-model.
OpenAI meldde ook dat de nieuwste GPT-5 de veiligheidsmaatregelen effectiever handhaaft tijdens uitgebreide gesprekken. Het bedrijf had eerder zwakke punten in de beveiligingsprestaties tijdens langere interacties geïdentificeerd.
Om deze uitdagingen verder aan te pakken, neemt OpenAI nieuwe beoordelingen op in zijn basisveiligheidstests voor AI-modellen. Deze omvatten benchmarks voor emotionele afhankelijkheid en niet-suïcidale noodsituaties op het gebied van de geestelijke gezondheidszorg.
Het bedrijf heeft extra ouderlijk toezicht geïntroduceerd voor ChatGPT-gebruikers. Dit omvat een leeftijdsvoorspellingssysteem dat is ontworpen om kinderen automatisch te identificeren en dienovereenkomstig strengere waarborgen toe te passen.
Ondanks de vooruitgang in GPT-5 erkent OpenAI dat bepaalde reacties onwenselijk blijven. Het bedrijf blijft miljoenen betalende abonnees toegang bieden tot oudere, minder veilige modellen, zoals GPT-4o.
Voor ondersteuning kunnen individuen in de VS de National Suicide Prevention Lifeline bellen op 1-800-273-8255, HOME sms’en naar 741-741 voor de Crisis Text Line, of sms’en naar 988. Buiten de VS zijn hulpmiddelen beschikbaar via de database van de International Association for Suicide Prevention.
