Anthropic publicó el 8 de octubre una actualización de las reglas de uso de Claude, que entrará en vigor el 12 de noviembre. La compañía explica que busca aclarar restricciones existentes ante modelos capaces de realizar trabajos más largos y autónomos, además de incorporar controles para nuevos escenarios.
El documento reúne las prohibiciones sobre campañas engañosas y actividad artificial, tanto política como comercial. También precisa límites relacionados con software para armas, vigilancia y decisiones policiales. En procesos democráticos mantiene la prohibición de engañar a votantes o interferir con elecciones, pero elimina la restricción general sobre mensajes personalizados cuando se trata de actividad cívica legítima.
Para usos de alto riesgo conserva la exigencia de supervisión humana cualificada y de informar a las personas afectadas del empleo de IA. Añade condiciones para equipos físicos autónomos: un operador debe poder observarlos y detenerlos, y deben quedar en un estado seguro si Claude se desconecta. Otra incorporación restringe conductas crueles, reiteradas y sin propósito hacia los modelos en casos extremos. Según Anthropic, quedan fuera de esa regla la frustración habitual, la crítica y las pruebas de investigación.