Op verrassende wijze heeft OpenAI stilletjes zijn gebruiksbeleid herzien, waarbij expliciete taal is geëlimineerd die het gebruik van zijn technologie voor militaire doeleinden verbiedt. De wijziging, aangebracht op 10 januari 2024, verwijdert het eerdere verbod op ‘wapenontwikkeling’ en ‘militair en oorlogsvoering’ uit het beleid. Deze substantiële verandering heeft geleid tot bezorgdheid over de mogelijke implicaties van de krachtige tool van OpenAI, ChatGPT, die in militaire toepassingen wordt gebruikt.
De beleidsredactie
De wijziging, onderdeel van een bredere beleidsherschrijving gericht op duidelijkheid en leesbaarheid, heeft de aandacht getrokken vanwege de impact ervan op het toegestane gebruik van de technologie van OpenAI. Het nieuwe beleid handhaaft een algemeen verbod op het gebruik van de dienst om zichzelf of anderen schade toe te brengen, met voorbeelden zoals het ontwikkelen of gebruiken van wapens. Het specifieke verbod op militaire en oorlogstoepassingen is echter verdwenen.
Het perspectief van OpenAI
OpenAI-woordvoerder Niko Felix legde uit dat het doel was om universele principes vast te stellen die gemakkelijk te onthouden en wereldwijd toe te passen zijn. Het bedrijf benadrukt principes als ‘Doe anderen geen kwaad’ en is van mening dat deze richtlijnen breed en toch gemakkelijk te begrijpen zijn. Felix onthield zich ervan expliciet te vermelden of het vage verbod op ‘schade’ alle militaire toepassingen omvat, maar benadrukte het verbod op het gebruik van technologie voor het ontwikkelen, gebruiken van wapens, het verwonden van anderen of het deelnemen aan ongeoorloofde activiteiten die de veiligheid schenden.
Zorgen van deskundigen
Heidy Khlaaf, technisch directeur bij Trail of Bits, uitte zijn bezorgdheid over het feit dat het nieuwe beleid prioriteit lijkt te geven aan legaliteit boven veiligheid. Ze benadrukte de potentiële risico’s die gepaard gaan met het gebruik van AI in militaire toepassingen, daarbij verwijzend naar gevallen van vooringenomenheid en hallucinaties binnen Large Language Models (LLM’s). De zorg is dat onnauwkeurige en bevooroordeelde operaties kunnen leiden tot meer schade en meer burgerslachtoffers.
Handhaving en gevolgen in de echte wereld:
De reële gevolgen van de beleidsverandering van OpenAI blijven onduidelijk. OpenAI was voorheen vrijblijvend over de handhaving van het verbod op militaire en oorlogstoepassingen. Ondanks het huidige onvermogen van ChatGPT om direct schade te veroorzaken, beweren experts dat de inzet ervan in militaire contexten, zelfs niet-gewelddadige contexten, indirect kan bijdragen aan een institutie die zich richt op dodelijkheid.
Mogelijke motivaties en partnerschappen
Sommige experts suggereren dat OpenAI in stilte zijn standpunt tegen militaire betrokkenheid versoepelt. De verschuiving van het expliciet verbieden van “militairen en oorlogsvoering” naar de nadruk op “wapens” zou ruimte kunnen creëren voor het ondersteunen van operationele infrastructuren zonder zich direct bezig te houden met wapenontwikkeling. De nauwe samenwerking van OpenAI met Microsoft, een grote defensie-aannemer, roept vragen op over de invloed van dergelijke relaties op het beleid van het bedrijf.
Militaire interesse in AI
De beleidsveranderingen komen op een moment dat legers wereldwijd graag machinale leertechnieken willen integreren. Het Amerikaanse Pentagon onderzoekt voorlopig het gebruik van ChatGPT en andere grote taalmodellen om een strategisch voordeel te behalen. Hoewel het leger de zorgen over nauwkeurigheid en veiligheidsrisico’s erkent, blijft het enthousiast over het adopteren van kunstmatige intelligentie-instrumenten.
OpenAI’s herziening van zijn gebruiksbeleid, met name de opheffing van expliciete verboden op militaire toepassingen, roept belangrijke vragen op over het ethische gebruik van geavanceerde taalmodellen. Naarmate het snijvlak van AI en militaire belangen zich blijft ontwikkelen, wordt het van cruciaal belang om een evenwicht te vinden tussen technologische innovatie en ethische overwegingen om mogelijke schade en misbruik te voorkomen. De implicaties van deze beleidsveranderingen zullen ongetwijfeld de voortdurende discussies over de verantwoorde inzet van krachtige AI-technologieën in verschillende domeinen voeden.
Uitgelichte afbeeldingscredits: Specna Arms/Unsplash
Source: Nu kunt u ChatGPT voor militaire doeleinden gebruiken