Geoffrey Hinton, bekend als de ‘peetvader van AI’, stelde dat de Russische oorlog in Oekraïne zijn kijk op het gebruik van kunstmatige intelligentie in militaire toepassingen heeft veranderd. Hinton zei tegen NBC News dat de complexiteit rond AI in oorlogsvoering groter is dan hij eerder dacht. Deze erkenning komt na jarenlang pleiten voor een internationaal verbod op dodelijke autonome wapens.
Hinton gaf aan dat de belangrijke rol van drones, vooral die met AI, in de verdediging van Oekraïne tegen Russische troepen hem meer open heeft gemaakt voor militaire toepassingen van AI-technologie. Hij merkte op: “Oekraïne overleeft dankzij drones”, en benadrukte de uitdagingen van het argumenteren tegen het gebruik ervan in de moderne oorlogsvoering.
Ondanks dat Oekraïne AI-aangedreven drones inzet tegen Russische doelen, merkte Hinton op dat de verdediging van het land sterk afhankelijk is van menselijk toezicht en de consistente productie van munitie. Hij erkende de voordelen van AI-systemen op het slagveld, maar beschreef de situatie als ‘een puinhoop’, waarmee hij zijn aanhoudende zorgen over de implicaties van het gebruik van AI in oorlogsvoering benadrukte.
Hinton wees erop dat de gevechtsontwikkelingen in Oekraïne verontrustende visies oproepen over toekomstige oorlogsscenario’s waarbij autonome wapens betrokken zijn. Hij gaf commentaar op de gevaren van het verwijderen van menselijke besluitvorming uit de strijd, en suggereerde dat dergelijke vooruitgang tot snellere en dodelijke gevolgen zou kunnen leiden.
Hij benadrukte het belang van publieke betrokkenheid en belangenbehartiging om de ontwikkeling van AI-technologieën op verantwoorde wijze te begeleiden. “Het enige dat deze grote AI-bedrijven in toom zal houden is publieke druk”, zei Hinton, waarmee hij zijn inzet onderstreepte om het publiek voor te lichten over zowel de risico’s als de voordelen van AI.
Hinton was niet beschikbaar voor verder commentaar, aldus zijn assistent die met Business Insider communiceerde. Ondertussen hebben werknemers van verschillende technologiebedrijven, waaronder Google en Microsoft, zich de afgelopen tien jaar verzet tegen betrokkenheid bij defensiegerelateerde AI-projecten.
Vorige week ondertekende president Donald Trump een richtlijn gericht op het versnellen van de ontwikkeling van AI voor nationale veiligheidsdoeleinden. In het National Security Presidential Memorandum werd gesteld dat AI transformerend zou kunnen zijn voor de Amerikaanse nationale veiligheid, wat suggereert dat juist gebruik militairen zou kunnen beschermen en de schade aan burgers zou kunnen verminderen, terwijl een technologische voorsprong op tegenstanders behouden zou blijven.
De regering-Trump heeft gepleit voor onbeperkte adoptie van AI in de nationale veiligheid. Het Pentagon bestempelde het bedrijf Anthropic als een risico voor de toeleveringsketen nadat het had verzocht zijn Claude AI niet te gebruiken in autonome wapens. Bovendien ontmantelde het Pentagon een kantoor dat gericht was op het beperken van burgerschade tijdens oorlogsvoering.
