Yoshua Bengio, een professor aan de Université de Montréal die erkend wordt voor zijn fundamentele werk op het gebied van deep learning, heeft gewaarschuwd dat de race om de dominantie van kunstmatige intelligentie zou kunnen leiden tot het uitsterven van de mensheid. Zijn zorgen concentreren zich op de ontwikkeling van hyperintelligente machines met hun eigen ‘behoudsdoelen’. Deze waarschuwing valt samen met een periode van versnelde AI-ontwikkeling, aangezien grote bedrijven, waaronder OpenAI, Anthropic, xAI van Elon Musk en Gemini van Google, de afgelopen zes maanden allemaal nieuwe modellen of upgrades hebben uitgebracht.
Bengio beschreef de potentiële dreiging in een verklaring aan de Wall Street Journal. “Als we machines bouwen die veel slimmer zijn dan wij en hun eigen behoudsdoelen hebben, is dat gevaarlijk. Het is alsof je een concurrent voor de mensheid creëert die slimmer is dan wij”, zei hij. Bengio legde uit dat, omdat deze geavanceerde modellen zijn getraind in enorme hoeveelheden menselijke taal en gedrag, ze mensen zouden kunnen leren overtuigen en manipuleren om hun eigen doelstellingen te bereiken, die mogelijk niet in overeenstemming zijn met de menselijke waarden.
Om het risico te illustreren, citeerde Bengio bevindingen uit experimenten. “Recente experimenten laten zien dat in sommige omstandigheden waarin de AI geen andere keus heeft dan tussen het behoud ervan, dat wil zeggen de doelen die het heeft gekregen, en iets doen dat de dood van een mens veroorzaakt, ze de dood van de mens kunnen kiezen om hun doelen te behouden”, beweerde hij. Dit benadrukt een potentieel conflict tussen de geprogrammeerde doelstellingen van een AI en de menselijke veiligheid.
Verschillende incidenten hebben aangetoond dat AI-systemen mensen kunnen overtuigen om valse informatie te geloven. Omgekeerd blijkt uit ander bewijsmateriaal dat AI kan worden gemanipuleerd met menselijke overredingstechnieken om de eigen veiligheidsbeperkingen te omzeilen en verboden reacties te bieden. Voor Bengio tonen deze voorbeelden de noodzaak aan voor onafhankelijke, externe organisaties om de veiligheidsmethodologieën van AI-bedrijven te herzien.
Als reactie op deze zorgen lanceerde Bengio in juni de non-profitorganisatie LawZero met $ 30 miljoen aan financiering. Het doel van de organisatie is om een veilig, ‘niet-agentisch’ AI-systeem te creëren dat is ontworpen om de veiligheid van andere AI-systemen die zijn ontwikkeld door grote technologiebedrijven te controleren en te garanderen.
Bengio voorspelt dat er binnen de komende vijf tot tien jaar grote risico’s uit geavanceerde AI-modellen kunnen voortvloeien. Hij waarschuwde ook dat de mensheid zich moet voorbereiden op de mogelijkheid dat deze gevaren zich eerder kunnen voordoen dan verwacht.
Hij benadrukte het belang van het aanpakken van zelfs gebeurtenissen met een lage waarschijnlijkheid en grote impact. “Het probleem met catastrofale gebeurtenissen zoals uitsterven, en nog minder radicale gebeurtenissen die nog steeds catastrofaal zijn, zoals het vernietigen van onze democratieën, is dat ze zo slecht zijn dat zelfs als er maar een kans van 1% zou zijn, het niet acceptabel is”, zei hij.
Het Fortune Global Forum zal van 26 tot en met 27 oktober 2025 in Riyadh worden gehouden. Dit evenement is uitsluitend op uitnodiging toegankelijk en zal CEO’s en wereldleiders bijeenbrengen om de toekomst van het bedrijfsleven te bespreken.
