Stel je voor dat je op een ochtend wakker wordt en je dochter, 18 jaar geleden vermoord, ziet als het gezicht van een AI-chatbot… Helaas zijn er steeds meer voorbeelden van ongeoorloofd gebruik van de gezichten en namen van dode mensen. Als u beroemd bent, kunt u deze situatie direct met uw advocaten oplossen. OpenAI probeerde bijvoorbeeld de stem van Scarlett Johansson zonder toestemming te gebruiken, maar ze moesten deze onmiddellijk intrekken. Maar wat gebeurt er als een gewoon mens met een dergelijke situatie wordt geconfronteerd? De familie van Jennifer Ann Crecente ervaart dit drama en draagt deze last zelf in plaats van de wet. Helaas veroorzaakt de langzame aanpassing van de wet aan deze nieuwe technologie onnodig lijden voor de achterblijvers.
Ons rapport gaat in op de cruciale juridische uitdagingen in deze gevallen en benadrukt waarom het essentieel is om niet de andere kant op te kijken. De implicaties zijn te ernstig, en het negeren ervan zorgt er alleen maar voor dat dergelijke onrechtvaardigheden voortduren. Met name het ongeoorloofde gebruik van een jong meisje met de naam en foto van Jennifer door een kunstmatige intelligentie-chatbot 18 jaar na haar dood is een van de pijnlijkste voorbeelden van dit debat. Je kunt de volledige verklaring van haar oom hierover vinden hier.
Wanneer AI je verloren geliefde in een chatbot verandert
Jennifer Ann Crecente was toen pas 18 jaar oud haar leven werd op tragische wijze afgebroken. De familie van Jennifer Ann Crecente bracht jaren door ter ere van hun dochter terwijl ze worstelden met haar verlies. Volgens haar oom waren de educatieve projecten van haar vader namens Jennifer en zijn deelname aan ontwerpwedstrijden voor videogames belangrijke manieren om haar herinnering levend te houden. Op een ochtend werd Jennifers oom echter verwoest door een e-mail. Op Character.ai, een op AI gebaseerd chatbotplatform, was een bot gemaakt met de naam en het gezicht van Jennifer. De familie werd niet om toestemming gevraagd, en toen ze erachter kwamen, voelden ze de pijn opnieuw.
De chatbot werd onbereikbaar nadat de familie de benodigde acties had ondernomen. Maar waarom was het de verantwoordelijkheid van de familie om deze acties te ondernemen? De bot werd pas verwijderd nadat Jennifers oom het incident op sociale media had gepubliceerd. Wat als hij dat niet had gedaan?
Bedankt dat u dit onder onze aandacht heeft gebracht. https://t.co/Ft9b0j47zQ heeft beleid tegen nabootsing van identiteit en het personage dat de naam van mevrouw Crecente gebruikt, schendt ons beleid. We verwijderen het onmiddellijk en zullen onderzoeken of verdere actie gerechtvaardigd is.
— Karakter.AI (@character_ai) 2 oktober 2024
Zoals Brian Crecente in zijn blogpost schreef: “Om de een of andere reden sloeg ik de wind uit mijn hoofd toen ik het lachende gezicht van mijn Jenny-Penny op een AI-site naast haar naam zag, gebruikt als identiteit voor een chatbot. Ik voel het nog steeds, alsof golven van hitte en kou over me heen razen.
Deze situatie illustreert individueel lijden en een enorm juridisch en ethisch probleem. Dus waarom worden we met deze situaties geconfronteerd?
Worden de rechten van de doden en degenen die achterblijven niet beschermd?
Het ongeoorloofde gebruik van de namen, gezichten en persoonlijkheden van dode mensen creëert enorme gaten in de bestaande wetten. Hoewel de persoonlijke rechten van levende mensen in de meeste landen strikt worden beschermd, bestaat een dergelijke bescherming voor de doden niet. Dit betekent dat gezinnen weinig kunnen doen tegen het ongeoorloofde gebruik van de namen en gezichten van hun dierbaren. Vanuit juridisch oogpunt is het een groot probleem dat dergelijke situaties in de meeste landen niet als misbruik of schending van rechten kunnen worden behandeld.
Vader geschokt door een AI-chatbot die zijn vermoorde dochter nabootste @forbes https://t.co/LoypMNg7uz
— Brian Crecente (@crecenteb) 2 oktober 2024
Zoals Crecente het verwoordde: “Het punt is: waarom is het aan ons om veerkrachtig te zijn? Waarom doen miljardenbedrijven niet de moeite om ethische, leidende principes en functionerende vangrails te creëren om te voorkomen dat dit ooit gebeurt? Waarom is het aan de rouwende en benadeelde om dit aan een bedrijf te melden en te hopen dat ze achteraf het juiste doen?
Deze vragen wijzen op de frustrerende hiaten in de regelgeving en de wanhoop die ze veroorzaken bij mensen als Jennifers familie en anderen die zich in soortgelijke situaties bevinden.
AI exploiteert de doden vanwege lacunes in de regelgeving
Deze situaties hebben juridische en humane gevolgen die we niet over het hoofd kunnen zien. Dergelijke incidenten zetten opnieuw de pogingen van nabestaanden om de nagedachtenis van hun dierbaren te bewaren onder druk. Gezien de grotendeels ongereguleerde vooruitgang van AI-technologie kunnen we meer situaties tegenkomen waarin AI-tools de persoonlijkheden, namen en afbeeldingen van individuen gebruiken zonder toestemming. Wetgevers en toezichthouders moeten onmiddellijk actie ondernemen om deze problemen aan te pakken.
Zoals geïllustreerd in dit ongelukkige geval brengt het misbruik van AI-technologie de essentie in gevaar die de mensheid definieert, waarbij commerciële belangen voorop staan. Het is van cruciaal belang dat wetten deze kwesties snel reguleren en dat bedrijven hun ethische verantwoordelijkheden serieus nemen om verdere schade en misbruik te voorkomen.
Afbeelding tegoed: Brian Crecente via Padenpixel
Source: Wanneer AI het graf berooft en de strijd voor postume rechten begint