Google ha anunciado el lanzamiento de una versión mejorada de su detector de contenido AI, SynthID, que ahora está disponible a nivel global. Este sistema permite identificar marcas de agua invisibles en imágenes, videos y audios generados por inteligencia artificial, lo que facilita la verificación de la autenticidad del contenido.
La nueva versión de SynthID no solo es capaz de detectar las marcas de agua de los modelos de Google, sino que también ha ampliado su capacidad para reconocer las marcas de otros socios, como OpenAI y Nvidia. Esto significa que los usuarios pueden verificar el origen de un contenido sin tener que recurrir a múltiples herramientas de detección. La funcionalidad se ha implementado en un nuevo sitio web dedicado, donde los usuarios pueden cargar archivos para comprobar si contienen marcas de agua de los modelos soportados.
Sin embargo, el uso de esta herramienta está limitado a un número diario de verificaciones, aproximadamente diez por usuario, lo que puede restringir su utilidad para aquellos que necesiten realizar múltiples comprobaciones. Google ha justificado esta limitación como una medida de seguridad para prevenir el desarrollo de herramientas que eliminen las marcas de agua.
A pesar de estas mejoras, el sistema tiene limitaciones. No puede detectar contenido generado por modelos que no utilicen marcas de agua o que empleen tecnologías de marcado diferentes. Esto plantea un desafío significativo, ya que existen muchos modelos de IA que no implementan ningún tipo de marca de agua, lo que significa que una parte considerable del contenido generado por IA podría no ser identificable mediante SynthID.
En resumen, aunque la actualización de SynthID representa un avance importante en la lucha contra la desinformación y la autenticidad del contenido generado por IA, su efectividad se ve limitada por la diversidad de tecnologías de generación de contenido disponibles en el mercado.