Volgens rapporten waren door Billie Eilish door AI gegenereerde afbeeldingen de focus van “deepfake-pornografie” op TikTok in een video die miljoenen views kreeg.
Op de For You-pagina, de primaire feed van het sociale netwerk, kwamen gebruikers een video tegen waarin de 20-jarige op seksueel overdreven lichamen was geplaatst. Voordat TikTok de clip verbood wegens het overtreden van de richtlijnen van de gemeenschap over seksuele intimidatie, had de diavoorstelling van de fotogalerij naar verluidt 11 miljoen kijkers.
De video die beweerde zelfgegenereerde AI te gebruiken om een versie van de Your Power-zangeres na te bootsen, zou naar verluidt vier dagen lang op telefoonschermen worden weergegeven, ondanks dat de app alle openlijk geseksualiseerde inhoud verbood.
Is AI-technologie te ver gegaan met door Billie Eilish AI gegenereerde deepfakes?
Ondanks het feit dat in het eigen beleid van TikTok staat dat schaamteloos geseksualiseerde inhoud verboden is, werd de video toch weergegeven op het tabblad Voor jou van de app.
Apps zoals Lensa of Midjourney hebben de afgelopen weken veel aan populariteit gewonnen en als gevolg daarvan zijn de digitale persona’s van mensen op basis van hun eigen foto’s overal op Instagram, Twitter en TikTok te vinden. Maar er zijn veel rapporten die zeggen dat Lensa AI centraal staat in een heet debat over zijn NSFW-inhoud, aangezien het platform vrouwelijke “naakt” -afbeeldingen genereert zonder enige toestemming.
Veel vrouwen beweren echter dat de apps vrouwenhaat ondersteunen door hen hun kleren uit te trekken of hun geseksualiseerde lichamen te laten zien.
Om slachtoffers van gendergerelateerd misbruik zowel online als offline bij te staan, zei Hera Hussain, de bedenker en CEO van Chayn:
“Het TikTok-algoritme is niet ingesteld om onderscheid te maken tussen wat voor soort inhoud betrokkenheid oplevert en dit is een cruciaal probleem. Het zou deze video’s niet moeten aanbevelen aan de feeds van hun gebruikers. Het is geen onschuldige meme. Het is geen still uit de eigen video’s van de zanger. Het is een hypergeseksualiseerde AI-gemanipuleerde afbeelding.”
– Hera Hussein
Het is verwarrend hoe het TikTok-algoritme NSFW-inhoud ondersteunt
Als u een socialmediaplatform gebruikt, moet u weten dat door AI gegenereerde foto’s onlangs viraal zijn gegaan op grote platforms zoals TikTok, dat door miljoenen mensen van alle leeftijden wordt gebruikt. Het is echt verwarrend dat inhoud zoals Billie Eilish AI-gegenereerde deepfake-pornografie aan gebruikers wordt aanbevolen door het TikTok-algoritme. De inhoud stond helaas dagen op het platform en werd miljoenen keren bekeken voordat deze werd verwijderd.
Een woordvoerder van TikTok zei over het onderwerp:
“Deze inhoud is in strijd met onze communityrichtlijnen, waarin duidelijk staat dat we geen inhoud toestaan die een afbeelding van een ander individu verandert of verandert om seksuele suggestiefheid uit te beelden of te impliceren.”
– TikTok-woordvoerder
De reacties op door AI gegenereerde foto’s nemen een hoge vlucht
Er wordt veel gepraat op sociale-mediaplatforms over de schadelijke gevolgen van AI-toepassingen die opnieuw naar voren kwamen met Billie Eilish AI-gegenereerde deepfake nadat de populaire toepassing Lensa AI eerder vrouwen afschilderde als te seksueel en beschuldigd van het stelen van het werk van sommige kunstenaars . Er zijn veel tweets over het onderwerp op Twitter zoals @_CatherineAllen‘s tweet.
Waarom wil deze AI-portret-app zo graag mijn kleren uittrekken?!
Met Lensa upload je 20 selfies en het genereert tientallen unieke artistieke portretten van jou. Ik was volledig gekleed in alle foto’s die ik had geüpload (obv!), Maar sommige foto’s die het van mij opleverde, waren naakten
pic.twitter.com/rwOvPmrpFd
— Catherine Allen (@_CatherineAllen) 10 december 2022
Onlangs werd er geprotesteerd tegen door AI gegenereerde afbeeldingen op het ArtStation, een platform voor digitale kunstenaars. Kunstenaars begonnen in opstand te komen tegen AI-kunst en zeiden ‘Nee tegen door AI gegenereerde afbeeldingen’-berichten in de foto’s die ze naar het platform hadden geüpload.
Het juiste gebruik van AI-technologieën is voor ons zeker een heel belangrijk element. AI, dat ons al jaren op veel punten in ons leven helpt, is helaas de focus geworden van veel discussies, waarbij het de afgelopen dagen viraal is geworden. Hoewel de meeste AI-technologieën het zelflerende protocol volgen, kan de publieke release van applicaties AI misschien achteruit duwen, vooral op ethische kwesties, in plaats van de ontwikkeling ervan te ondersteunen. Als we kijken naar het model dat door ChatGPT is gemaakt, wordt het misschien niet gebruikt in huidige onderwerpen vanwege de bedenkingen van OpenAI over dit onderwerp.
Source: TikTok promootte Billie Eilish AI genereerde deepfake-pornografie
