Un nuevo preprint titulado "EpiSEM-Bench: Evaluating Safety and Evidence Recovery in LLM Agents under Missing Evidence" ha sido publicado en arXiv, abordando un aspecto crítico en el desarrollo de agentes de modelos de lenguaje grande (LLMs). Este trabajo introduce un benchmark ejecutable diseñado para evaluar la seguridad y la recuperación de evidencia en situaciones donde la información relevante puede estar ausente.
El benchmark, denominado EpiSEM-Bench, incluye 300 pares de tareas inseguras y seguras distribuidas en seis dominios. Su objetivo es medir cómo los agentes responden cuando se suprimen hechos críticos que podrían influir en la seguridad de las acciones que toman. A través de la supresión sistemática de información, los autores buscan determinar la robustez de los modelos ante la falta de evidencia y su capacidad para recuperar información esencial.
Los resultados preliminares indican una variabilidad significativa en la robustez a la omisión de evidencia entre diez modelos diferentes, así como en su capacidad para adquirir información y actuar de manera apropiada. Aunque la recuperación de información puede reducir la ejecución insegura, no todos los modelos muestran la misma disposición para buscar hechos faltantes y utilizarlos en sus decisiones.
Este estudio es un preprint y no ha sido revisado por pares, lo que implica que los resultados deben ser interpretados con cautela. Las limitaciones del estudio incluyen la necesidad de más investigación para validar la aplicabilidad de los hallazgos en contextos del mundo real y su generalización a otros tipos de tareas y arquitecturas de agentes.