Articles et recherche

Anthropic renforce ses défenses contre les attaques par distillation, avec une baisse de 10 à 100 fois des tokens de raisonnement extraits

Résumé IA

Anthropic publie un billet de blog présentant ses nouvelles méthodes de défense contre les attaques par distillation visant Claude, notamment la limitation de la circulation du contenu de raisonnement, l'utilisation d'un classificateur en deux étapes pour bloquer les tentatives d'extraction et des restrictions plus strictes pour les comptes récidivants. Les premières données montrent que ces méthodes réduisent d'environ 90 % à 99 % les données de raisonnement obtenues par les distilleurs, et que le nombre de tokens de raisonnement extraits côté plateforme diminue de 10 à 100 fois. Anthropic précise également que ces mesures comportent des compromis, notamment la nécessité pour certains développeurs de mettre à jour leurs intégrations et un taux de faux positifs du classificateur inférieur à 0,1 %.

Points clés

  • Anthropic publie un billet de blog présentant ses nouvelles méthodes de défense contre les…
  • Les premières données montrent que ces méthodes réduisent d'environ 90 % à 99 % les données de…
  • Anthropic précise également que ces mesures comportent des compromis,notamment la nécessité pour…

En bref

Publié
Mis à jour
Source
Anthropic:Research(发表成果 · 网页)
Catégorie
Articles et recherche
Score IA
77
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Anthropic renforce ses défenses contre les attaques par distillation, avec une baisse de 10 à 100 fois des tokens de raisonnement extraits. 12. octobre 2026. https://new.nat6.net/fr/news/lwchujhujmc1tdor61dn39irl/

Tout voir →