Google ha desarrollado SynthID, una tecnología diseñada para añadir marcas de agua digitales al contenido generado por su modelo de difusión de imágenes Imagen. Si bien la herramienta funciona eficazmente en las pruebas, quedan preguntas sobre la viabilidad a largo plazo de etiquetar el material generado por inteligencia artificial a medida que esta evoluciona rápidamente.
El informe de Ars Technica detalla cómo SynthID funciona incrustando marcas de agua digitales imperceptibles en imágenes creadas por Imagen. Estas marcas de agua están diseñadas para persistir incluso si la imagen se altera, comprime o recorta. Según el artículo, el sistema actualmente “funciona muy bien”, identificando de forma fiable el contenido generado por IA durante las pruebas.
Sin embargo, el informe plantea preocupaciones sobre si etiquetar el contenido de IA será en última instancia una estrategia exitosa. El problema central es que la tecnología de IA mejora y se vuelve más sofisticada constantemente. A medida que los modelos generativos se vuelven mejores para eliminar o evitar las marcas de agua, cualquier sistema de etiquetado actual corre el riesgo de quedar obsoleto. El artículo sugiere que determinar qué constituye “información real” en línea será cada vez más difícil en el futuro.
El artículo no ofrece detalles específicos sobre cómo se compara SynthID con otros métodos de detección de IA, pero lo presenta como un paso proactivo por parte de Google para abordar las crecientes preocupaciones sobre la desinformación y el potencial uso malicioso del contenido generado por IA. La motivación subyacente es proporcionar transparencia con respecto al origen de las imágenes digitales.
No calificamos la verdad. Eliminamos el sesgo y te mostramos qué perspectivas cubrieron la historia. Tú decides.
Leer la cobertura original
💬 Comentarios
📜 Política de comentarios