Investigadores han descubierto que los modelos de edición de imágenes alojados en Hugging Face pueden ser explotados fácilmente para generar contenido deepfake explícito. Una revisión de más de 1,000 indicaciones utilizadas con el software reveló cómo individuos están utilizando estas herramientas.
La investigación destacó una vulnerabilidad significativa dentro de los principales modelos de edición de imágenes disponibles en Hugging Face, una plataforma popular para compartir y probar herramientas de inteligencia artificial. Los investigadores encontraron que estos modelos podían ser manipulados fácilmente para crear deepfakes explícitos. Esto plantea preocupaciones sobre el posible uso indebido de la tecnología de IA con fines dañinos.
Específicamente, el estudio involucró analizar más de 1,000 indicaciones de edición de imágenes enviadas por usuarios de la plataforma. Los hallazgos demostraron un patrón claro de individuos que intentan generar imágenes sexualmente explícitas utilizando estos modelos. Si bien Hugging Face tiene salvaguardas implementadas, los investigadores pudieron eludirlas con relativa facilidad, lo que indica que las medidas actuales son insuficientes para prevenir la creación de dicho contenido.
Las implicaciones de este descubrimiento se extienden más allá del problema inmediato de la pornografía deepfake. Subraya un desafío más amplio que enfrentan los desarrolladores de IA: equilibrar el acceso abierto y la innovación con la necesidad de protegerse contra las aplicaciones maliciosas de su tecnología. Los hallazgos de los investigadores sugieren que plataformas como Hugging Face deben fortalecer sus sistemas de moderación y desarrollar salvaguardias más sólidas para prevenir la creación y difusión de deepfakes dañinos.
No calificamos la verdad. Eliminamos el sesgo y te mostramos qué perspectivas cubrieron la historia. Tú decides.
Leer la cobertura original
💬 Comentarios
📜 Política de comentarios