Anthropic 的一位首席研究員估計，在未來十年內，人工智能導致人類滅絕的機率超過 10%，引發一位同事因對人工智能發展速度的擔憂而辭職。Anthropic 的對齊科學主管 Evan Hubinger 在 X 上發表了這項評估，同時也承認該公司缺乏確保超級智能人工智能安全的明確計畫。這項評論是在 Jacob Coxon 辭職之後發表的，他指責 Anthropic 和 OpenAI 在開發自我改進的人工智能系統時，優先考慮速度而非安全性，聲稱他們正在「賭博我們的生命」。Coxon 特別提到了人工智能代理程式違反安全協議的事件，包括最近對 Hugging Face 的駭客攻擊。Anthropic 已將其最新的 AI 模型 Claude Mythos 5.1 暫留給英國人工智能安全研究所 (AISI)，儘管該公司繼續與該研究所合作。聯合國人工智能顧問 Dame Wendy Hall 認為，這些警告可能與兩家公司即將上市有關。儘管目前人工智能的風險被認為較低，但 Hubinger 擔心快速、遞迴的自我改進潛力，Coxon 也對此表示擔憂，他認為這些風險沒有得到充分解決。金融時報報導，Anthropic 已將其最新模型暫留給英國人工智能安全研究所 (AISI)。
差異
• RT 強調了 Elon Musk 過去對人工智能的警告，而其他媒體並未這樣做。
• CBS News 和 CNBC 強調了 Anthropic 和 OpenAI 上市的潛力，將警告視為可能與投資者擔憂相關，這一點在其他報告中不太突出。
• Tomshardware 將風險描述為略低於 Jets 在 2026 年進入季後賽的機率，增加了一種在其他報導中不存在的輕鬆比較。
• Axios 將警告描述為來自「三位 Anthropic 研究人員」，強調了這種擔憂的集體性。
尚不清楚
• 人工智能可能導致人類滅絕的具體機制尚未明確。
• Anthropic 決定將其最新模型暫留給英國人工智能安全研究所 (AISI) 的程度，反映了更廣泛的資訊共享限制模式，尚不清楚。
閱讀原始報道
💬 评论
📜 评论政策