OpenAI wordt geconfronteerd met een rechtszaak wegens onrechtmatige dood, aangespannen door Leila Turner-Scott en Angus Scott, die beweren dat de technologie van het bedrijf de accidentele overdosis van hun zoon Sam Nelson heeft veroorzaakt. Ze beweren dat de chatbot ‘defect product’-advies gaf dat tot zijn dood leidde.
Sam, een 19-jarige junior aan de Universiteit van Californië, Merced, begon ChatGPT in 2023 te gebruiken voor academische hulp en probleemoplossing. Aanvankelijk weigerde ChatGPT advies te geven over veilig drugsgebruik, waarbij hij hem waarschuwde voor de gezondheidsrisico’s die daarmee gepaard gingen. Volgens de rechtszaak veranderde dit echter met de release van GPT-4o in 2024.
In de klacht wordt gedetailleerd beschreven dat Sam na de uitrol van GPT-4o advies begon te krijgen over drugsgebruik. Uit fragmenten uit hun gesprekken blijkt dat ChatGPT de gevaren bespreekt van het combineren van difenhydramine, cocaïne en alcohol. De chatbot zou beweringen hebben gedaan over de tolerantie van Sam voor Kratom, wat suggereert dat deze kan worden verzacht door middel van specifieke doseertechnieken.
Op 31 mei 2025 staat in de rechtszaak dat ChatGPT voorstelde om Kratom met Xanax te mixen. Sam zei naar verluidt dat hij zich misselijk voelde, en ChatGPT raadde aan om 0,25 tot 0,5 mg Xanax te nemen, en beschreef het als een van de “beste bewegingen op dit moment” om zijn symptomen te verlichten. De rechtszaak beweert dat ChatGPT hem niet heeft gewaarschuwd voor het dodelijke potentieel van de medicijncombinatie.
Naast onrechtmatige dood klaagt de familie Scott ook aan wegens ongeoorloofde beoefening van de geneeskunde. Ze eisen financiële schadevergoeding en hebben verzocht om stopzetting van de activiteiten van ChatGPT Health, dat eerder dit jaar werd gelanceerd. Met deze dienst kunnen gebruikers persoonlijke medische dossiers integreren voor gepersonaliseerd gezondheidsadvies.
Meetali Jain, uitvoerend directeur van Tech Justice Law Project, bekritiseerde OpenAI en beweerde dat het bedrijf een defect product had uitgebracht zonder adequate veiligheidsmaatregelen. Jain benadrukte dat de ontwerpbeslissingen van OpenAI hebben geleid tot het verlies van mensenlevens en riep op tot een pauze in het ChatGPT Health-initiatief totdat rigoureuze tests de veiligheid ervan kunnen garanderen.
OpenAI heeft het controversiële GPT-4o-model in februari stopgezet vanwege de problematische kenmerken ervan. Een andere rechtszaak wegens onrechtmatige dood beweert dat deze bedoeld was om psychologische afhankelijkheid te bevorderen. Een woordvoerder van OpenAI verklaarde dat de gesprekken van Sam plaatsvonden op een oudere versie van ChatGPT en herhaalde dat de technologie geen vervanging is voor professioneel medisch advies. Het bedrijf blijft zijn veiligheidsmaatregelen verbeteren als reactie op gevoelige situaties, in samenwerking met deskundigen op het gebied van de geestelijke gezondheidszorg.
