Een ongekende golf van door AI gegenereerde video’s, valse satellietbeelden en gemanipuleerde beelden over de Amerikaans-Israëlische militaire campagne tegen Iran heeft honderden miljoenen views verzameld op sociale mediaplatforms. BBC Verify meldde dat buitenlandse regeringen, staatsmedia en opportunistische makers deze inhoud hebben geproduceerd sinds het conflict op 28 februari begon.
De stortvloed aan verzonnen inhoud vervuilt de informatieomgeving tijdens een daaruit voortvloeiend militair conflict in de regio. Een wijdverspreide, door AI gegenereerde video waarop raketten te zien waren die Tel Aviv insloegen, werd in meer dan 300 berichten geplaatst en tientallen miljoenen keren bekeken.
Een ander nepfragment van de Burj Khalifa in Dubai, die in vlammen opging, circuleerde wijdverspreid omdat bewoners vreesden voor drone- en raketaanvallen. De aan de Iraanse staat gelieerde Tehran Times deelde een verzonnen satellietbeeld dat beweerde schade aan een Amerikaanse radarfaciliteit in Qatar te tonen.
De SynthID-watermerkdetectietool van Google bevestigde dat de afbeelding is gemaakt of gewijzigd met een Google AI-product. De afbeelding is afgeleid van echte satellietbeelden van een Amerikaanse marinebasis in Bahrein, gemaakt in februari 2025.
Videogamebeelden worden ook afgeschilderd als echte gevechten. De gouverneur van Texas, Greg Abbott, plaatste een fragment uit de game War Thunder opnieuw en schreef “Bye bye”, voordat hij het bericht verwijderde nadat het in een communitynota was gemarkeerd als gamebeelden.
Shayan Sardarizadeh, senior journalist van BBC Verify, verklaarde dat “deze oorlog misschien al het record heeft gebroken van het hoogste aantal door AI gegenereerde video’s en afbeeldingen die tijdens een conflict viraal zijn gegaan”. X’s AI-chatbot Grok slaagde er herhaaldelijk niet in om valse inhoud te identificeren, en hield vol dat een door AI gegenereerde video van raketten die Tel Aviv raakten echt was.
Grok citeerde rapporten van Newsweek en Reuters om zijn valse bevestiging te onderbouwen. X reageerde niet op het verzoek van BBC Verify om commentaar op het gedrag van de chatbot.
Op 4 maart kondigde Nikita Bier, hoofd product van X, aan dat makers die AI-gegenereerde video’s van gewapende conflicten plaatsen zonder openbaarmaking, gedurende 90 dagen zullen worden uitgesloten van het Creator Revenue Sharing Program. Recidivisten worden geconfronteerd met definitieve verwijdering.
Het platform zei dat het overtredingen zal signaleren via communitynotities en metadata van generatieve AI-tools. Bier verklaarde dat “het met de huidige AI-technologieën triviaal is om inhoud te creëren die mensen kan misleiden”.
Critici beweren dat X’s op betrokkenheid gebaseerde model voor het delen van inkomsten sensationele en misleidende inhoud stimuleert. Deskundige Mahsa Alimardani waarschuwde dat “nepvideo’s als deze het vertrouwen van het publiek in geverifieerde informatie die online beschikbaar is ondermijnen en de documentatie van echt bewijsmateriaal bemoeilijken”.
BBC Verify is een factcheck-eenheid van de British Broadcasting Corporation. Het onderzoek werd op 6 maart gepubliceerd.
