De Amerikaanse minister van Defensie Pete Hegseth zet Anthropic onder druk om het leger onbeperkte toegang te geven tot zijn Claude-model voor kunstmatige intelligentie, volgens een rapport van Axios. Hegseth zou Dario Amodei, CEO van Anthropic, naar verluidt hebben geïnformeerd dat het bedrijf tot vrijdag de tijd heeft om het Pentagon volledige toegang te verlenen, anders worden er aanzienlijke straffen opgelegd. Tot de bedreigingen behoren onder meer het inroepen van de Defense Production Act, het verbreken van bestaande contracten en het aanmerken van Anthropic als een risico voor de toeleveringsketen. Een dergelijke aanduiding zou andere defensiecontractanten dwingen te verklaren dat zij Claude niet gebruiken in hun workflows.
De vraag van het Pentagon concentreert zich op de afhankelijkheid van het leger van Claude voor zijn meest gevoelige operaties. Een defensiefunctionaris vertelde Axios dat het leger de technologie van Anthropic onmiddellijk nodig heeft, omdat dit momenteel het enige AI-model is dat wordt gebruikt voor zeer geheim werk. De functionaris merkte op: “De enige reden dat we nog steeds met deze mensen praten, is dat we ze nodig hebben, en wel nu.” Claude is naar verluidt ingezet bij specifieke militaire operaties, waaronder de aanval op Nicolas Maduro in Venezuela. Anthropic heeft aangeboden zijn standaardgebruiksbeleid toe te passen op Pentagon-contracten, maar heeft bij bepaalde toepassingen grenzen getrokken. Het bedrijf verklaarde dat het niet zou toestaan dat zijn model zou worden gebruikt voor massale surveillance van Amerikaanse burgers of voor autonome wapensystemen die zonder menselijk toezicht opereren.
Op dezelfde dag dat er nieuws uitbrak over de drukcampagne van het Pentagon, kondigde Anthropic een aanzienlijke herziening van zijn veiligheidsprotocollen aan. Het bedrijf maakte bekend dat het zijn Responsible Scaling Policy (RSP) aanpast, waardoor eerder vastgestelde veiligheidsbarrières effectief worden verlaagd. Jarenlang was de centrale belofte van Anthropic aan consumenten en zakenpartners dat het de training van nieuwe AI-modellen zou stopzetten als specifieke veiligheidsbenchmarks niet vooraf konden worden gegarandeerd. Dit eerdere beleid was gebaseerd op ‘harde struikeldraden’ die bedoeld waren om de ontwikkeling onmiddellijk stop te zetten als aan bepaalde risicodrempels werd voldaan.
Het vernieuwde beleid vervangt deze strikte rode lijnen door een flexibelere aanpak. Het nieuwe raamwerk van Anthropic is gebaseerd op ‘Risk Reports’ en ‘Frontier Safety Roadmaps’ in plaats van op automatische ontwikkelingspauzes. In een verklaring legt Anthropic uit: “Twee en een half jaar later is onze eerlijke inschatting dat sommige delen van deze theorie van verandering zijn uitgespeeld zoals we hadden gehoopt, maar andere niet.” Het bedrijf stelt dat de verschuiving noodzakelijk is om concurrerend te blijven in een snel evoluerende markt.
Jared Kaplan, hoofd wetenschap van Anthropic, verdedigde de beslissing in een interview met Time. Kaplan stelde dat het eenzijdig pauzeren van de ontwikkeling contraproductief zou zijn terwijl de concurrenten vooruitgang blijven boeken. “We hadden het gevoel dat het niemand zou helpen als we zouden stoppen met het trainen van AI-modellen”, zegt Kaplan. “Met de snelle opmars van AI hadden we niet echt het gevoel dat het zinvol was om eenzijdige toezeggingen te doen… als de concurrentie voorop loopt.”
Anthropic noemde een “collectief actieprobleem” als primaire motivatie voor de beleidswijziging. Het bedrijf voerde aan dat als één ontwikkelaar voor de veiligheid pauzeert terwijl anderen doorgaan zonder sterke maatregelen, de algehele veiligheid van het ecosysteem zou kunnen verslechteren. Volgens de bijgewerkte RSP zouden “de ontwikkelaars met de zwakste bescherming het tempo bepalen, en zouden verantwoordelijke ontwikkelaars hun vermogen verliezen om veiligheidsonderzoek te doen en het publieke voordeel te bevorderen.” Anthropic wees ook op de bredere anti-reguleringsomgeving van de Verenigde Staten als een factor die zijn beslissing beïnvloedde.
De financiële context onderstreept de concurrentiedruk waarmee het bedrijf wordt geconfronteerd. In februari haalde Anthropic $30 miljard aan nieuwe investeringen binnen, wat de totale waardering op $380 miljard bracht. De nieuwste modellen van het bedrijf, vooral op het gebied van codeermogelijkheden, hebben veel lof gekregen. Deze groei valt echter samen met een verschuiving in het bedrijfsethos. Hoewel de eerdere veiligheidsverplichtingen van Anthropic een hoeksteen van het merk vormden, geeft de nieuwe aanpak voorrang aan voortdurende training boven harde stops.
Chris Painter, de directeur van de non-profitorganisatie METR, gaf een gemengde beoordeling van het nieuwe beleid van Anthropic. Painter prees de toegenomen nadruk op transparantie, maar waarschuwde dat de flexibiliteit van het nieuwe RSP zou kunnen leiden tot een “kikkerkokend” effect. Dit fenomeen beschrijft een scenario waarin veiligheidsnormen stapsgewijs worden uitgehold door een reeks rationalisaties, wat uiteindelijk leidt tot een aanzienlijke afwijking van de oorspronkelijke veiligheidsdoelen.
Painter interpreteerde de beleidsverandering verder als een signaal van bredere strijd in de industrie. Hij merkte op dat de veranderingen suggereren dat Anthropic “gelooft dat het met zijn veiligheidsplannen naar de triagemodus moet overschakelen, omdat methoden om risico’s te beoordelen en te beperken geen gelijke tred houden met het tempo van de mogelijkheden.” Painter concludeerde dat deze ontwikkeling dient als bewijs dat de samenleving mogelijk niet voldoende is voorbereid op depotentiële catastrofale risico’s verbonden aan geavanceerde AI. Noch de aankondiging van Anthropic over de RSP, noch de berichtgeving over de eisen van het Pentagon brachten de twee gebeurtenissen expliciet met elkaar in verband, hoewel hun timing op dezelfde dag de aandacht heeft gevestigd op het snijvlak van overheidsdruk en het veiligheidsbeleid van bedrijven.
