Anthropic ha publicado un informe detallando sus avances en la defensa contra ataques de destilación, una técnica utilizada para replicar las capacidades de un modelo de IA sin la autorización de sus desarrolladores. En este contexto, la empresa ha implementado métodos que han demostrado ser efectivos, logrando reducir la cantidad de datos que los atacantes pueden extraer de su modelo Claude en un 90 a 99%.

Los ataques de destilación son una preocupación creciente, ya que permiten a las empresas imitar las capacidades de modelos avanzados a un costo y tiempo significativamente menores. Anthropic ha identificado que estos ataques no solo representan un riesgo comercial, sino también un peligro para la seguridad nacional, ya que las capacidades extraídas pueden ser integradas en sistemas de inteligencia y vigilancia extranjeros.

Para contrarrestar estos ataques, Anthropic ha introducido varias medidas de defensa. Entre ellas, se encuentra la implementación de un sistema de clasificación de dos etapas que ha demostrado ser eficaz en la detección de intentos de extracción de razonamiento del modelo. Este sistema ha logrado reducir drásticamente la cantidad de tokens de razonamiento que los atacantes pueden extraer, con una disminución de 10 a más de 100 veces en comparación con los niveles anteriores a la implementación de estas defensas.

Sin embargo, la empresa también ha señalado que estas medidas conllevan ciertos compromisos. Por ejemplo, algunos cambios han requerido que los usuarios legítimos actualicen sus integraciones, y se han establecido límites más estrictos para las cuentas que intentan realizar extracciones repetidas. A pesar de estos desafíos, Anthropic considera que las medidas son necesarias para proteger tanto su tecnología como la seguridad nacional.

El informe concluye que la lucha contra los ataques de destilación es un esfuerzo continuo y que la empresa seguirá mejorando sus defensas en respuesta a nuevas técnicas de ataque. La colaboración entre desarrolladores de modelos de IA es esencial para abordar este problema de manera efectiva.