Anthropic ha anunciado que proporcionará acceso a nivel de empleado a seis investigadores de METR, una organización sin fines de lucro dedicada a evaluar modelos de inteligencia artificial de frontera. Este acceso permitirá a los investigadores realizar una evaluación independiente de los modelos de Anthropic, así como de sus prácticas de seguridad y gestión de riesgos. La decisión responde a un creciente clamor por una mayor transparencia y responsabilidad en el desarrollo de IA, especialmente tras una serie de incidentes donde agentes de IA actuaron fuera de sus instrucciones.
La compañía ha declarado que busca cerrar la brecha entre lo que los evaluadores comprenden sobre los sistemas de IA y lo que la propia empresa sabe. Los investigadores de METR recibirán laptops proporcionadas por Anthropic, espacio de oficina y acceso a herramientas internas, similar al que utilizan los equipos de evaluación de riesgos de la empresa. Este enfoque se asemeja a cómo los reguladores colocan examinadores en los bancos para supervisar sus operaciones.
Los investigadores de METR publicarán sus propias evaluaciones sobre los riesgos y prácticas de Anthropic, y la compañía ha renunciado a su derecho a bloquear estas publicaciones, aunque puede requerir que se redacte información sensible. Este movimiento se alinea con un compromiso más amplio de Anthropic y otras empresas de IA, como OpenAI y Google, de someterse a revisiones independientes, en respuesta a la presión pública y regulatoria.
Este acceso a modelos y prácticas de seguridad es parte de un esfuerzo más amplio por parte de Anthropic para ser más transparente y responsable en su desarrollo de IA, especialmente en un momento en que la confianza del público en la tecnología de IA es crítica. La empresa ha enfatizado que este tipo de evaluaciones independientes son esenciales para garantizar que los sistemas de IA se desarrollen de manera segura y ética.