// CLUBIC — INTELLIGENZA ARTIFICIALE
Anthropic pense avoir trouvé comment protéger Claude de ses copieurs, mais il y a un prix à payer
Anthropic affirme avoir considérablement renforcé les protections de Claude contre les entreprises qui tentent de copier ses modèles d’intelligence artificielle. Les premiers résultats sont impressionnants, mais ces nouvelles restrictions pourraient aussi compliquer la vie des développeurs.
La guerre de l’intelligence artificielle ne se joue pas uniquement sur les performances des modèles. Depuis plusieurs mois, Anthropic accuse notamment des laboratoires chinois de récupérer massivement les réponses de Claude pour entraîner leurs propres IA, sans avoir à investir les mêmes sommes dans leur développement. Une pratique appelée distillation, contre laquelle l’entreprise américaine multiplie les protections. Et les efforts semblent commencer à payer. Dans un nouveau rapport publié le 12 octobre, Anthropic annonce avoir réduit jusqu’à 99 % les données récupérées par ces acteurs. Un résultat spectaculaire sur le papier, mais qui s’accompagne de restrictions parfois contraignantes pour les utilisateurs légitimes.
Dans son rapport officiel, Anthropic indique que ses nouvelles protections ont permis de réduire de 90 à 99 % le volume de données de raisonnement récupérées lors des campagnes de distillation. Les entreprises qui cherchent à reproduire les capacités de Claude auraient désormais beaucoup plus de difficultés à obtenir les informations nécessaires à l’entraînement de leurs propres modèles.
La distillation consiste à utiliser les réponses d’une intelligence artificielle pour entraîner un autre modèle, souvent plus petit et moins coûteux. Cette technique est parfaitement légitime lorsqu’elle est autorisée, mais Anthropic dénonce son utilisation massive par des concurrents qui chercheraient à reproduire Claude sans son accord. Les traces détaillées de raisonnement sont particulièrement recherchées, puisqu’elles permettent de comprendre comment le modèle résout un problème, plutôt que de récupérer uniquement sa réponse finale.
Pour limiter ces pratiques, Anthropic a déployé plusieurs protections. Les traces de raisonnement sont désormais mieux cloisonnées entre les conversations et les comptes. Des filtres automatiques analysent également les requêtes suspectes afin de repérer les tentatives d'extraction.
Ces mécanismes, introduits progressivement avec les dernières générations de Claude, semblent porter leurs fruits. Anthropic affirme avoir divisé par 10 à 100 les données de raisonnement récupérées et banni des dizaines de milliers de comptes frauduleux, parfois moins de deux heures après le début d'une campagne.
Cette protection a toutefois un prix, et pas uniquement pour les entreprises qui tentent de copier Claude. Depuis le 24 septembre, Anthropic facture certaines requêtes bloquées par ses dispositifs de sécurité, même lorsqu’aucune réponse n’a été générée. L’objectif est de rendre les tentatives répétées d’extraction plus coûteuses pour les attaquants.
Le problème, c’est que ces filtres ne sont pas infaillibles. Anthropic revendique un taux de faux positifs inférieur à 0,1 %, mais reconnaît que certaines requêtes parfaitement légitimes peuvent être rejetées. Plusieurs développeurs ont également dû modifier leurs intégrations pour s’adapter aux nouvelles restrictions sur les conversations et les traces de raisonnement.
L'entreprise affirme avoir renoncé à plusieurs milliers de milliards de tokens de trafic payant pour lutter contre ces campagnes. Un sacrifice financier qu’elle juge nécessaire, même si l’efficacité de ses protections repose pour l’instant sur des évaluations internes. Anthropic reconnaît d’ailleurs ne pas savoir combien de temps elles résisteront à de nouvelles techniques de distillation.
À vouloir empêcher ses concurrents de reproduire Claude, Anthropic risque aussi de rappeler à ses clients qu’une intelligence artificielle propriétaire appartient d’abord à celui qui en fixe les règles.