Een Ars Technica-artikel uit september 2025, getiteld “DeepMind AI safety report explores the perils of misaligned AI”, behandelt het onderzoek en perspectief van Google DeepMind op de veiligheid van kunstmatige intelligentie. Het rapport besteedt specifieke aandacht aan kunstmatige algemene intelligentie (AGI) en de risico’s die gepaard gaan met slecht op elkaar afgestemde AI-systemen, waarbij de doelstellingen van een AI in strijd zijn met menselijke waarden of bedoelingen.
Het artikel schetst DeepMind’s benadering van verantwoorde AI-ontwikkeling, waarbij de nadruk wordt gelegd op de inzet voor technische veiligheid, risicobeoordeling en samenwerking binnen de AI-gemeenschap om potentiële risico’s te beheersen. Deze strategie is vooral gericht op de gevaren die kunnen voortkomen uit krachtige AGI-systemen. Een centraal onderdeel van deze inspanning is het Frontier Safety Framework van DeepMind, een protocol dat is ontwikkeld om proactief ernstige risico’s te identificeren en te beperken die verband houden met frontier AI-modellen.
Interne bestuursorganen binnen DeepMind worden ook gedetailleerd beschreven, waaronder de Verantwoordelijkheids- en Veiligheidsraad en de AGI Veiligheidsraad. Deze groepen zijn verantwoordelijk voor het toezicht op onderzoek en ontwikkeling om de ethische, technische en veiligheidsrisico’s aan te pakken die aan geavanceerde AI-technologieën zijn verbonden.
Een belangrijke uitdaging die wordt besproken, is verkeerd uitgelijnde AI. Dergelijke systemen kunnen schade veroorzaken als hun operationele doelstellingen in strijd zijn met het maatschappelijk welzijn, zelfs als ze vanuit een beperkt technisch standpunt correct lijken te functioneren. Om dit aan te pakken benadrukt DeepMind het belang van transparantie, externe samenwerking en proactief veiligheidsonderzoek als integraal onderdeel van de verantwoorde oprichting van AGI.
