OpenAI kondigde donderdag aan dat het de mogelijkheid voor gebruikers van zijn AI-videomodel Sora heeft stopgezet om video’s te genereren die lijken op de overleden burgerrechtenactivist Martin Luther King Jr.. Het bedrijf verklaarde dat deze actie werd ondernomen op verzoek van de nalatenschap van Dr. King nadat sommige gebruikers “respectloze afbeeldingen” van zijn imago hadden gemaakt.
In een post van zijn officiële newsroom-account op X zei OpenAI: “Hoewel er sterke belangen zijn op het gebied van vrije meningsuiting bij het afbeelden van historische figuren, gelooft OpenAI dat publieke figuren en hun families uiteindelijk controle moeten hebben over hoe hun beeltenis wordt gebruikt.” Het bedrijf voegde eraan toe: “Geautoriseerde vertegenwoordigers of landgoedeigenaren kunnen verzoeken dat hun beeltenis niet wordt gebruikt in Sora-cameo’s.”
Deze beperking volgt op de lancering van het sociale videoplatform Sora een paar weken eerder. Met het platform kunnen gebruikers realistische, door AI gegenereerde video’s maken die lijken op historische figuren, vrienden en andere gebruikers die ervoor kiezen om hun beeltenis opnieuw te laten maken. De lancering heeft geleid tot een publiek debat over de potentiële gevaren van door AI gegenereerde video’s en de noodzaak voor platforms om veiligheidsmaatregelen te implementeren.
Vorige week plaatste de dochter van Dr. King, Dr. Bernice King, een bericht op Instagram waarin hij mensen vroeg om te stoppen met het sturen van AI-video’s die op haar vader leken. Op dezelfde manier verzocht de dochter van Robin Williams Sora-gebruikers te stoppen met het maken van AI-video’s van haar vader.
De Washington Post meldde eerder deze week dat Sora-gebruikers door AI gegenereerde video’s hadden gemaakt waarin Dr. King apengeluiden maakte en worstelde met collega-burgerrechtenleider Malcolm X. De Sora-app bevat ook grove video’s die lijken op andere historische figuren, waaronder kunstenaar Bob Ross, zanger Whitney Houston en voormalig president John F. Kennedy.
De licentiegever van de nalatenschap van Dr. King had niet onmiddellijk gereageerd op een verzoek om commentaar van TechCrunch. De lancering van Sora heeft ook vragen doen rijzen over hoe sociale mediaplatforms AI-gegenereerde video’s van auteursrechtelijk beschermd materiaal moeten beheren, aangezien de app video’s bevat met tekenfilms zoals SpongeBob, South Park en Pokémon.
