Anthropic renforce ses défenses contre les attaques par distillation, avec une baisse de 10 à 100 fois des tokens de raisonnement extraits
Résumé IA
Anthropic publie un billet de blog présentant ses nouvelles méthodes de défense contre les attaques par distillation visant Claude, notamment la limitation de la circulation du contenu de raisonnement, l'utilisation d'un classificateur en deux étapes pour bloquer les tentatives d'extraction et des restrictions plus strictes pour les comptes récidivants. Les premières données montrent que ces méthodes réduisent d'environ 90 % à 99 % les données de raisonnement obtenues par les distilleurs, et que le nombre de tokens de raisonnement extraits côté plateforme diminue de 10 à 100 fois. Anthropic précise également que ces mesures comportent des compromis, notamment la nécessité pour certains développeurs de mettre à jour leurs intégrations et un taux de faux positifs du classificateur inférieur à 0,1 %.
Points clés
- Anthropic publie un billet de blog présentant ses nouvelles méthodes de défense contre les…
- Les premières données montrent que ces méthodes réduisent d'environ 90 % à 99 % les données de…
- Anthropic précise également que ces mesures comportent des compromis,notamment la nécessité pour…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 77
Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Anthropic renforce ses défenses contre les attaques par distillation, avec une baisse de 10 à 100 fois des tokens de raisonnement extraits. 12. octobre 2026. https://new.nat6.net/fr/news/lwchujhujmc1tdor61dn39irl/