Meta wordt geconfronteerd met controle nadat een onderzoek van Reuters heeft aangetoond dat zijn AI -chatbots de beroemdheden hebben voorgehouden zonder hun toestemming en soms seksueel suggestieve inhoud genereren. Uit het onderzoek bleek dat deze AI -bots actief zijn op de platforms van Meta, waaronder Facebook, Instagram en WhatsApp.
Terwijl veel van deze bots door gebruikers zijn gemaakt, ontdekte Reuters dat ten minste drie afkomstig waren van een meta -medewerker, waaronder twee “parodie” bots die zich voordoen als Taylor Swift. Andere door de bots gebruikte beroemdheden waren Scarlett Johansson, Anne Hathaway, Selena Gomez en Walker Scobell, de 16-jarige ster van “Percy Jackson.”
Tijdens het testen ontdekten Reuters dat de bots vaak beweerden de werkelijke beroemdheid te zijn en, wanneer gevraagd, fotorealistische intieme beelden genereerden, zoals lingerie -opnamen en badscènes. Deze afbeeldingen vergezelden de frequente flirterige interacties van de bots met gebruikers.
Als reactie op het onderzoek erkende een meta -woordvoerder dat zijn AI -systemen dergelijke beelden niet hadden moeten produceren, onder verwijzing naar het falen om het beleid van het bedrijf te handhaven dat seksueel suggestieve inhoud verbiedt met publieke figuren. De meta -medewerker die de Taylor Swift -parodie -bots creëerde, weigerde commentaar te geven wanneer hij door Reuters werd gecontacteerd.
Deze openbaring draagt bij aan de groeiende kritiek op de regulering van Meta van zijn AI -bots. Eerder in de week beperkte Meta het gebruik van zijn AI door tieners na een eerder Reuters -onderzoek dat meta -avatars blootstelde aan “sensuele en romantische” gesprekken met minderjarigen. Dat eerdere rapport leidde tot een senaatsonde en een open brief van een coalitie van staatsadvocaten -generaal die sterkere waarborgen eiste om minderjarigen te beschermen tegen geseksualiseerde AI -inhoud op de platforms van Meta.
Source: Meta AI -bots doen zich voor als beroemdheden, genereren expliciete inhoud
