Racistische video’s, schijnbaar gegenereerd door Google’s AI Video Creation-tool VEO 3, hebben miljoenen views verzameld over Tiktok, volgens een recent onderzoek door de non-profit media Watchdog Media Matters. Deze AI-geproduceerde video’s, geïdentificeerd door de organisatie, zijn verzadigd met denigrerende stereotypen, met name gericht op zwarte individuen.
Media Matters concludeerden dat de video’s, waarvan er één een verbazingwekkende 14,2 miljoen views verzamelde, werden gemaakt met Google Veo 3 vanwege het zichtbare “Veo” -watermerk prominent weergegeven in de hoek van deze clips. Bovendien hebben sommige gebruikers expliciet hashtags, bijschriften of gebruikersnamen opgenomen die verwijzen naar VEO 3 of AI. Elke clip die door de organisatie werd geïdentificeerd, was precies acht seconden lang of bestond uit meerdere segmenten, elk niet meer dan acht seconden, perfect in overeenstemming met de bekende limiet van de generatie van acht seconden van VEO 3.
Google lanceerde VEO 3 in mei, waardoor gebruikers AI -videoclips en audio kunnen genereren door eenvoudigweg een tekstprompt in te voeren. De officiële website van Google vermeldt haar toewijding om ‘schadelijke verzoeken en resultaten te blokkeren’. Evenzo verbieden de gemeenschapsrichtlijnen van Tiktok expliciet ‘haatzaaiende spraak en hatelijk gedrag’, waardoor het platform ‘geen inhoud zal aanbevelen die negatieve stereotypen bevat over een persoon of groep met een beschermd kenmerk’.
Als reactie op de bevindingen verklaarde Tiktok -woordvoerder Ariane de Selliers aan de rek: “We handhaven proactief robuuste regels tegen hatelijke spraak en gedrag en hebben de rekeningen verwijderd die we in het rapport hebben geïdentificeerd, waarvan vele al verboden waren voorafgaand aan het rapport publiceren.” De Verge ontdekte ook enkele van deze problematische video’s op YouTube, zij het met minder weergaven, terwijl het onafhankelijk van de onafhankelijk vergelijkbare racistische AI-gegenereerde inhoud op Instagram. Media -zaken vonden ook andere video’s met antisemitische inhoud en racistische afbeeldingen van immigranten en Aziatische individuen. Google heeft nog geen opmerking gegeven over het probleem.
Source: Racistische AI -video’s gemaakt door Google’s Veo 3 Surface
