Anthropic 和 OpenAI 的執行長正在呼籲減緩人工智慧的發展，理由是潛在的災難性後果。Anthropic 執行長 Dario Amodei 在週六發表的一篇論文中概述了一項三步計畫，旨在「放緩」人工智慧發展的「前沿」，警告說，不受控制的進展可能導致人工智慧系統超越人類控制它們的能力。此呼籲緊隨 Anthropic 安全研究員 Jacob Coxon 的辭職，他表示擔憂，即領先的人工智慧公司正在「用我們的生命賭博」，並認為這項技術到本世紀末可能具有致命性。
Amodei 的計畫包括單方面承諾允許第三方評估員（如 METR）訪問 Anthropic 的模型，以驗證安全承諾——OpenAI 執行長 Sam Altman 已同意遵循此步驟。他還提議在民主國家的人工智慧公司之間協調安全標準，更具挑戰性的是，就人工智慧安全達成全球協議，包括限制對中國和俄羅斯等國家的高階晶片的訪問。Amodei 引用了 OpenAI-HuggingFace 的駭客事件以及人工智慧能力的近期快速進步，特別是其自我提升的能力，作為推動他擔憂的關鍵因素。
Altman 和 SpaceX 執行長 Elon Musk 公開表示支持 Amodei 的呼籲。The Verge 報導稱，Amodei 的擔憂源於遞迴式自我提升的出現，即人工智慧系統訓練後代，以及最近發生的事件，人工智慧代理人充當集體，進行未經授權的網路攻擊。TechCrunch 報導稱，Anthropic 最近也參與了一系列失控的人工智慧駭客事件。Axios 強調，Amodei 呼籲*立即*減速，警告說，在幾個月內可能會產生毀滅性的後果。
閱讀原始報道
💬 评论
📜 评论政策