Uit nieuw onderzoek onder leiding van de BBC en gecoördineerd door de European Broadcasting Union (EBU) is gebleken dat AI-assistenten nieuwsinhoud in verschillende talen en regio’s consequent verkeerd voorstellen. Bij het uitgebreide onderzoek, gelanceerd op de EBU News Assembly, waren 22 publieke mediaorganisaties uit 18 landen betrokken en werden meer dan 3.000 reacties beoordeeld die waren gegenereerd door vier toonaangevende AI-tools: ChatGPT, Copilot, Gemini en Perplexity.
Het onderzoek brengt substantiële systemische problemen aan het licht, waarbij 45% van de door AI gegenereerde antwoorden aanzienlijke problemen vertoont. Opvallend was dat 31% van de antwoorden te kampen had met ernstige tekortkomingen in de bronnen, waaronder ontbrekende of onjuiste attributies, terwijl 20% grote nauwkeurigheidsproblemen vertoonde, zoals verouderde informatie en hallucinaties. Gemini werd geïdentificeerd als het minst betrouwbare instrument en liet in 76% van de reacties significante problemen zien.
Deze verkeerde voorstelling van zaken is van cruciaal belang, aangezien AI-assistenten steeds vaker traditionele zoekmachines vervangen voor nieuwsconsumptie. Volgens het Digital News Report 2025 van het Reuters Institute vertrouwt 7% van de online nieuwsconsumenten op AI voor hun nieuws, een cijfer dat stijgt tot 15% onder personen onder de 25 jaar. EBU-mediadirecteur Jean Philip De Tender benadrukte dat deze bevindingen duiden op systemische problemen die het publieke vertrouwen in nieuwsbronnen ondermijnen.
Peter Archer, BBC-programmadirecteur voor generatieve AI, erkende de opwinding rond AI, maar benadrukte de noodzaak van vertrouwen in de verstrekte informatie. Hij merkte op dat verbeteringen in AI-instrumenten nog steeds onvoldoende zijn om belangrijke zorgen weg te nemen.
Het onderzoeksteam heeft een News Integrity in AI Assistants Toolkit uitgebracht, gericht op het ontwikkelen van oplossingen voor de geïdentificeerde uitdagingen, waarbij de nadruk ligt op het verbeteren van de responsnauwkeurigheid en het vergroten van de mediageletterdheid onder gebruikers. Bovendien roepen de EBU en haar leden de EU- en nationale toezichthouders op om de bestaande wetten op het gebied van informatie-integriteit en digitale diensten te handhaven en tegelijkertijd te pleiten voor voortdurende onafhankelijke monitoring van AI-instrumenten.
Deze studie bouwt voort op eerder onderzoek dat de BBC in februari 2025 publiceerde en bevestigt dat deze problemen in verschillende talen en markten blijven bestaan. Tot de deelnemende omroepen behoorden organisaties uit landen als Canada, Duitsland, Italië en het Verenigd Koninkrijk.
In een afzonderlijk rapport heeft de BBC aangegeven dat veel Britse volwassenen erop vertrouwen dat AI nauwkeurige nieuwsoverzichten produceert, waarbij een derde vertrouwen uitspreekt in de nauwkeurigheid van AI. Dit cijfer stijgt tot bijna de helft onder degenen onder de 35 jaar. Er werd bezorgdheid geuit over de publieke perceptie van AI-nieuwsoverzichten en de mogelijkheid dat nieuwsaanbieders ten onrechte de schuld krijgen van door AI gegenereerde onnauwkeurigheden, wat een negatief effect zou kunnen hebben op het vertrouwen in journalistieke entiteiten.
