De opkomst van generatieve kunstmatige intelligentie heeft ongelooflijke vooruitgang gebracht, maar heeft ook duistere gevolgen online met zich meegebracht. Een van deze problemen is het kopiëren van gezichten en lichamen, vaak deepfakes genoemd. Het kan gemakkelijk synthetische naaktfoto’s maken die grote schade kunnen toebrengen aan individuen. Personen die intieme foto’s hebben gedeeld zonder hun toestemming, vonden het moeilijk om deze afbeeldingen van internet te verwijderen. Microsoft is tussenbeide gekomen met een oplossing die mogelijk de broodnodige ondersteuning biedt.
Microsoft heeft een belangrijke stap voorwaarts gezet door een nieuwe tool te introduceren waarmee slachtoffers van deepfakes deze afbeeldingen uit de Bing-zoekmachine kunnen verwijderen. Dit recente initiatief is gericht op het aanpakken van de verspreiding van nep-pornografische content op internet die lijkt te bestaan uit echte personen, een fenomeen dat erger is geworden door de vooruitgang in kunstmatige intelligentie.
Stop de verspreiding van Microsoft deepfake-inhoud voor volwassenen
De samenwerking van Microsoft met StopNCII (Stop niet-consensuele intieme afbeeldingen) vertegenwoordigt een vitale samenwerking in de strijd tegen “wraak” en deepfake naaktfoto’s. StopNCII is een organisatie die slachtoffers in staat stelt om een digitale vingerafdruk of “hash” van expliciete afbeeldingen te maken, of deze nu echt zijn of door AI zijn gegenereerd, op hun apparaten. Deze vingerafdruk wordt vervolgens gebruikt om de aanstootgevende afbeeldingen op verschillende platforms te traceren en te verwijderen.
Microsoft’s Bing maakt nu deel uit van deze inspanning en voegt zich bij de gelederen van andere grote technologieplatforms zoals Facebook, Instagram, TikTok en Reddit. Dit is een cruciale aanvulling op de reeds uitgebreide beveiligingsmaatregelen van Microsoft, die voorheen afhankelijk waren van een directe rapportagetool. Hoewel de directe rapportageoptie gebruikers in staat stelde schadelijke inhoud te markeren, was het niet voldoende om de hoeveelheid aanstootgevend materiaal bij te houden. Door de digitale vingerafdruktechnologie van StopNCII te integreren, wil Microsoft effectiever en proactiever voorkomen dat deze afbeeldingen in zoekresultaten verschijnen en slachtoffers helpen de controle over hun digitale activa terug te krijgen.
De voortdurende strijd tegen deepfake
De kwestie van door AI gegenereerde naaktfoto’s is een groeiende zorg geworden met wijdverbreide implicaties, vooral in landen als de Verenigde Staten waar geen federale wet is die specifiek gericht is op AI deepfake-pornografie. Dit heeft geresulteerd in slechts 23 staten het invoeren van wetten om niet-consensuele deepfakeswaardoor slachtoffers in veel regio’s geen adequate juridische middelen hebben. Microsofts partnerschap met StopNCII en de nieuwe tool op Bing kunnen enige verlichting bieden in een omgeving waar juridische bescherming inconsistent is.
Het probleem is echter niet beperkt tot volwassenen. Middelbare scholieren worden ook het doelwit van “uitkleden” sites die nep-naaktfoto’s maken, wat de noodzaak van strengere wetten en uitgebreidere bescherming aantoont. De tools van StopNCII dekken momenteel alleen personen van 18 jaar en ouder. Toch is de bredere impact van deze schadelijke technologieën duidelijk en is de noodzaak van strengere maatregelen om jonge gebruikers te beschermen onvermijdelijk.
Microsoft’s toewijding aan digitale veiligheid
Microsoft is zich al lang bewust van de schadelijke effecten van het delen van intieme afbeeldingen zonder toestemming en heeft stappen ondernomen om dit probleem aan te pakken. In het jaar 2015 lanceerde Microsoft een gecentraliseerde rapportagetool die gebruikers moet helpen bij het melden en verwijderen van niet-consensuele intieme images. Maar naarmate de technologie achter synthetische images evolueerde, deed de aanpak van Microsoft dat ook.
Het bedrijf heeft ook gepleit voor gemoderniseerde wetten om slachtoffers van door AI gegenereerde content te beschermen en heeft beleidsvoorstellen uitgebracht die gericht zijn op het beschermen van vrouwen en kinderen tegen online misbruik. Daarnaast blijft Microsoft zijn interne beleid verbeteren om de creatie en distributie van dergelijke content op zijn platforms, waaronder Bing, Xbox en andere consumentendiensten, te voorkomen.
De nieuwe tool van Microsoft is een grote stap voorwaarts, maar de strijd tegen deepfake is nog niet voorbij. Nieuwe technologie brengt nieuwe uitdagingen met zich mee en we moeten snel reageren. Microsoft werkt samen met StopNCII en andere groepen om deepfake te bestrijden. Maar we hebben iedereen nodig om te helpen.
Microsoft moedigt mensen die zich zorgen maken over het delen van hun intieme afbeeldingen aan om de tools van StopNCII te gebruiken en overtredingen te melden bij Microsoft. Dit zal helpen de verspreiding van deze afbeeldingen te stoppen en slachtoffers enige controle te geven. Hoewel technologie nieuwe vormen van misbruik mogelijk heeft gemaakt, biedt het ook nieuwe manieren om terug te vechten. De laatste zet van Microsoft laat deze voortdurende strijd zien.
Bron van de hoofdafbeelding: Johannes Krupinski / Unsplash
Source: Nieuwe stap van Microsoft in de strijd tegen deepfake-video’s voor volwassenen