OpenAI heeft een deal bereikt om zijn kunstmatige intelligentiemodellen in geheime omgevingen voor het Pentagon in te zetten, na een mislukking in de onderhandelingen tussen het Pentagon en rivaliserende Anthropic. President Donald Trump gaf federale instanties opdracht om na een overgangsperiode van zes maanden te stoppen met het gebruik van de technologie van Anthropic, en minister van Defensie Pete Hegseth bestempelde het bedrijf als een risico voor de toeleveringsketen. Sam Altman, CEO van OpenAI, gaf toe dat de deal overhaast was en tot aanzienlijke reacties leidde, waardoor Claude van Anthropic zaterdag OpenAI’s ChatGPT inhaalde in de App Store van Apple.
Dankzij de overeenkomst kan OpenAI AI-diensten leveren aan het ministerie van Defensie, terwijl specifieke veiligheidsverboden worden gehandhaafd. Het bedrijf wil de spanningen tussen het ministerie van Defensie en de AI-industrie de-escaleren. “Als we gelijk hebben en dit leidt tot een de-escalatie tussen de DoW en de industrie, zullen we eruitzien als genieën en een bedrijf dat veel moeite heeft gedaan om dingen te doen om de industrie te helpen”, aldus Altman.
OpenAI’s blogpost schetste drie verboden gebruiksscenario’s voor zijn modellen: massale binnenlandse surveillance, autonome wapensystemen en geautomatiseerde beslissingen met hoge inzet, zoals ‘social credit’-systemen. Het bedrijf verklaarde dat het de volledige discretie behoudt over zijn veiligheidsstack en de implementatie via de cloud-API. “We weten niet waarom Anthropic deze deal niet kon bereiken, en we hopen dat zij en meer laboratoria dit zullen overwegen”, aldus de blogpost.
Anthropic verklaarde dat het rode lijnen had tegen het gebruik van zijn technologie in volledig autonome wapens of massale binnenlandse surveillance. Sam Altman verklaarde dat OpenAI dezelfde rode lijnen had als Anthropic. Mike Masnick van Techdirt beweerde dat de deal binnenlandse surveillance mogelijk maakt, omdat deze verwijst naar de naleving van Executive Order 12333.
OpenAI’s hoofd van de nationale veiligheidspartnerschappen, Katrina Mulligan, betoogde dat de implementatiearchitectuur de integratie in wapensystemen of sensoren verhindert. “Door onze inzet te beperken tot cloud-API kunnen we ervoor zorgen dat onze modellen niet rechtstreeks kunnen worden geïntegreerd in wapensystemen, sensoren of andere operationele hardware”, aldus Mulligan.
