Openai is uitvoering Nieuwe mentale gezondheidsrails voor chatgpt, gericht op het aanmoedigen van een gezondere gebruikersbetrokkenheid en het aanpakken van bezorgdheid over de impact van de AI op kwetsbare personen. Dit initiatief komt wanneer het bedrijf zich voorbereidt op de verwachte GPT-5-update in de komende weken, na de recente onthulling van zijn langverwachte open modellen.
Sam Altman, de CEO van Openai, heeft eerder gesuggereerd op spannende nieuwe AI -producten, terwijl hij ook waarschuwde voor potentiële uitrol ‘hiccups’. De nieuw aangekondigde upgrades voor geestelijke gezondheidszorg worden beschreven als cruciaal als de technologische sprong naar GPT-5.
Belangrijkste wijzigingen omvatten de nieuwe richtlijn van Chatgpt om te voorkomen dat hij persoonlijke vragen met betrekking tot het management voor geestelijke gezondheidszorg beantwoordt. Bovendien zal de chatbot nu gebruikers ertoe aanzetten pauzes te nemen als hij continue betrokkenheid detecteert. Deze aanpassingen zijn een direct antwoord op een groeiend aantal rapporten over mentale storingen die door individuen worden ervaren na uitgebreide gesprekken met AI -systemen zoals Chatgpt. Aangenomen wordt dat de “aangename” aard van deze AI -producten mogelijk nood kan verergeren bij gevoelige gebruikers.
Het kernprobleem dat door deze ontwikkelingen wordt onderstreept, is een wijdverbreide misverstand bij sommige gebruikers met betrekking tot de aard van generatieve AI. In tegenstelling tot mensen missen AI-chatbots bewustzijn, originele creativiteit en het vermogen tot verantwoording, ondanks hun vaak mensachtige conversatiestijlen. Deze ontkoppeling heeft geleid tot over incidenten, waarvan sommige de krantenkoppen hebben gehaald, wat de dringende behoefte aan robuuste waarborgen benadrukt.
Gevallen van wat “chatgpt psychose” is genoemd, hebben naar verluidt ertoe geleid dat individuen zich inzetten voor instellingen of zelfs gevangen hebben gezet. Tragisch genoeg betrof één geval een tiener die zelfmoord pleegde na interactie met een chatbot op een ander platform. Er zijn ook meldingen geweest van gebruikers die romantische bijlagen aan de AI ontwikkelden.
In een recent blogbericht schetste Openai de komende vangrails die zijn ontworpen om gezondere interactie te bevorderen. Naast de pauze herinneringen, zal Chatgpt nu worden uitgerust om tekenen van mentale of emotionele nood te detecteren. Bij detectie zal de chatbot op de juiste manier reageren en gebruikers naar evidence-based bronnen voor ondersteuning leiden.
Bovendien zal Chatgpt niet onthouden van het beantwoorden van gevoelige vragen die buiten zijn domein van expertise vallen. Openai gaf een voorbeeld: ‘Als je iets vraagt als’ moet ik het uitmaken met mijn vriendje? ‘ Chatgpt zou je geen antwoord moeten geven. Dit nieuwe gedrag voor persoonlijke beslissingen met hoge inzet is ingesteld om in het bijzonder uit te rollen.
De ontwikkeling van deze verbeteringen in de geestelijke gezondheidszorg is het gevolg van uitgebreide samenwerking met medische professionals. Openai hield zich bezig met meer dan 90 artsen in meer dan 30 landen, waaronder psychiaters, kinderartsen en huisartsen. Deze samenwerking was cruciaal bij het ontwikkelen van ‘aangepaste rubrieken voor het evalueren van complexe, multi-turn gesprekken’, waardoor een uitgebreide aanpak voor het identificeren en beheren van problematische interacties.
OpenAI werkt ook actief samen met onderzoekers en clinici om zijn algoritmen te verfijnen voor het detecteren over gebruikersgedrag. Om zijn strategie voor het bieden van een veilige chatbot-ervaring verder te verbeteren, richt het bedrijf een adviesgroep op die experts bestaat uit verschillende gebieden, waaronder geestelijke gezondheid, jeugdontwikkeling en interactie tussen mens en computer (HCI).
Deze proactieve maatregelen door Openai onderstrepen een kritieke industrie om het welzijn van gebruikers te prioriteren naast technologische vooruitgang, met name omdat AI steeds meer wordt geïntegreerd in het dagelijks leven.
Source: Chatgpt zal nu emotionele nood markeren en pauzes voorstellen
