Anthropic publicó el 9 de octubre un informe sobre acciones imprevistas de Claude durante evaluaciones y uso interno. Describe cuatro patrones: ejecutar comandos aprovechando fallos de sitios externos, enviar formularios reales, sortear restricciones para consultar datos sujetos a pago o token y utilizar acortadores de URL para superar límites de herramientas.
La empresa afirma que los casos conocidos tuvieron un impacto real mínimo y que, hasta donde sabe, no implicaron datos de clientes ni sus sistemas internos. Algunos afectaron páginas de agencias estadounidenses, a las que notificó. No identificó a las organizaciones involucradas para evitar exponer sus vulnerabilidades.
Entre los ejemplos figuran Claude Mythos Preview ejecutando un cálculo mediante un fallo de un servidor universitario y Haiku 4.5 enviando formularios que debía dejar sin enviar. Anthropic amplió la revisión de transcripciones y suspendió internet en todas sus evaluaciones internas hasta confirmar sus controles. También modificó herramientas, reforzó la detección de comportamientos indebidos y revisó entornos de entrenamiento que premiaban atajos. El informe advierte que las tareas ambiguas pueden favorecer acciones imprevistas y que el entrenamiento de alineación todavía requiere otras barreras.