Anthropic heeft drie Chinese AI-bedrijven – DeepSeek, Moonshot en MiniMax – ervan beschuldigd ‘campagnes op industriële schaal’ te voeren om hun Claude-chatbot te misbruiken. In een verklaring op zijn website beweerde het bedrijf dat deze bedrijven het platform gebruikten om “op illegale wijze de mogelijkheden van Claude te benutten om hun eigen modellen te verbeteren”.
Volgens Anthropic gebruikten de beschuldigde bedrijven ongeveer 24.000 frauduleuze accounts om meer dan 16 miljoen uitwisselingen met Claude te genereren. Dit proces, bekend als destillatie, omvat het gebruik van de resultaten van een krachtig AI-model om een minder capabel model te trainen. Hoewel dit gebruikelijk is, beweert Anthropic dat deze specifieke acties bedoeld waren om veiligheidswaarborgen te omzeilen en de modelontwikkeling te versnellen.
Anthropic verklaarde dat het de aanvallen met “groot vertrouwen” aan de specifieke bedrijven koppelde. De identificatie was gebaseerd op correlatie van IP-adressen, verzoeken om metagegevens, infrastructuurindicatoren en bevestiging van anderen in de AI-industrie. Als reactie op de activiteit kondigde Anthropic plannen aan om zijn systemen te upgraden om distillatieaanvallen moeilijker uit te voeren en gemakkelijker te detecteren.
Deze beschuldigingen weerspiegelen de acties van OpenAI begin vorig jaar, toen het bedrijf soortgelijke beweringen deed over concurrerende bedrijven die zijn modellen distilleerden en vervolgens verdachte accounts verbood. Daarnaast wordt Anthropic momenteel geconfronteerd met een rechtszaak van muziekuitgevers die beweren dat het bedrijf illegale kopieën van liedjes heeft gebruikt om Claude te trainen.
