Anthropic ha emitido una advertencia sobre los riesgos asociados con los avances en modelos de inteligencia artificial pequeños, sugiriendo que podrían facilitar la creación de malware capaz de replicarse de manera autónoma a través de dispositivos de Internet de las Cosas (IoT). Según la empresa, esta nueva forma de malware podría infectar dispositivos como frigoríficos inteligentes y aspiradoras, y sería más difícil de eliminar que las versiones tradicionales.
La investigación de Anthropic indica que, para el próximo año, estos modelos pequeños podrían ser capaces de replicarse sin intervención humana, lo que podría dar lugar a la aparición de gusanos informáticos que se propagan a través de dispositivos desconocidos. Aunque los experimentos realizados por la compañía han revelado desafíos significativos para desarrollar un replicador de malware de este tipo, los resultados plantean preocupaciones sobre la posibilidad de nuevas formas de gusanos informáticos que son difíciles de detener.
Los modelos pequeños requieren menos potencia de hardware en comparación con los modelos más grandes, lo que los hace accesibles para una variedad de dispositivos. Anthropic ha demostrado que estos modelos pueden establecer inferencias en hardware de bajo costo, lo que aumenta la preocupación sobre su potencial para ser utilizados en ataques cibernéticos.
La empresa ha encontrado que, a través de técnicas como la cuantización y la fragmentación de cargas de trabajo, estos modelos pueden adaptarse a diferentes dispositivos, lo que les permite realizar configuraciones específicas y ejecutar código malicioso. Esto plantea un riesgo significativo, ya que una vez que un modelo logra infectar un dispositivo, podría aprender de sus intentos fallidos y mejorar su eficacia en futuras infecciones.
Sin embargo, los investigadores también advierten que, aunque los modelos pequeños están avanzando rápidamente, actualmente no son capaces de llevar a cabo una replicación de extremo a extremo de manera efectiva. El proceso de replicación sigue siendo lento y requiere una serie de decisiones complejas basadas en el hardware y software de cada dispositivo objetivo.
En resumen, la advertencia de Anthropic subraya la necesidad de una mayor vigilancia y medidas de seguridad en el desarrollo y despliegue de modelos de IA pequeños, especialmente en el contexto de su uso en dispositivos IoT.