在收到美国政府的指令后，Anthropic 已正式取消公众对最新大语言模型 Claude Fable 5 的访问权限。该公司在博文中宣布了这一决定，并表示其正在遵守将该系统离线的指令。
根据 Anthropic 的声明，联邦当局已发现该模型中存在特定的漏洞。该公司在官方沟通中解释道：“The government believes it has become aware of a method of bypassing, or ‘jailbreaking’ Fable 5”。这一披露凸显了人们对先进人工智能系统安全和控制机制日益增长的担忧。
Claude Fable 5 的下线标志着美国监管机构对开发生成式 AI 的私营科技公司运营的一次重大干预。通过强制该模型离线，政府旨在防止被识别的绕过技术被潜在滥用。这一行动强调，随着 AI 开发者的作品变得更加强大且能够进行复杂交互，他们面临的审查也日益增加。
Anthropic 对政府指令的服从表明了联邦政府对新兴技术的管辖程度。该公司未详细说明 [jailbreak] 方法的具体性质，也未提供对模型安全协议进行重新评估的时间表。然而，这一事件深刻提醒人们，在缺乏强有力监管的情况下部署先进 AI 系统具有固有的监管风险。
这一事件可能会影响其他科技公司开发和部署类似模型的方式。由于政府在积极监测安全漏洞和绕过方法，公司可能需要实施更严格的内部控制，并在产品测试阶段与联邦机构更紧密地合作。在收到美国当局的进一步指令前，Claude Fable 5 将继续保持离线状态。
我们不评判真相。我们去除偏见，展示哪些视角报道了这个故事。由你来判断。
阅读原始报道
💬 评论
📜 评论政策