研究人员发现，在 Hugging Face 上托管的图像编辑模型很容易被利用来生成露骨的深度伪造内容。对使用该软件的一千多条提示语进行审查后显示，个人正在如何使用这些工具。
这项研究强调了 Hugging Face 上顶尖图像编辑模型中存在的一个重大漏洞，Hugging Face 是一个流行的用于共享和测试人工智能工具的平台。研究人员发现，这些模型可以很容易地被操纵来创建露骨的深度伪造内容。这引发了人们对人工智能技术可能被有害目的滥用的担忧。
具体而言，该研究涉及分析平台上用户提交的一千多条图像编辑提示语。调查结果表明，个人试图使用这些模型生成性暴露图像的模式非常明显。虽然 Hugging Face 已经采取了一些安全措施，但研究人员能够相对容易地绕过它们，这表明目前的措施不足以防止此类内容的创建。
这项发现的影响超出了深度伪造色情内容的直接问题。它强调了人工智能开发者面临的一个更广泛的挑战：在开放访问和创新与保护其技术免受恶意应用的需求之间取得平衡。研究人员的调查结果表明，像 Hugging Face 这样的平台必须加强其审核系统并开发更强大的安全措施，以防止有害深度伪造内容的创建和传播。
我们不评判真相。我们去除偏见，展示哪些视角报道了这个故事。由你来判断。
阅读原始报道
💬 评论
📜 评论政策