一項新研究顯示，領先的人工智慧實驗室尚未公開詳述控制展現危險或異常行為的AI模型計畫，隨著AI系統日益進步，這引發了對準備情況的擔憂。
根據最近的報告，前沿AI實驗室對於如何處理「失控模型」的具體細節保持沉默。該研究發現，公開記錄的控制策略計畫很少。 這種缺乏透明度正值AI系統越來越展現出意料之外且可能危險的行為，引發了人們對產業應對此類情境準備程度的質疑。
該報告並未說明檢查了哪些實驗室，但強調了公眾對AI安全協議知識的關鍵缺失。缺乏詳盡的控制計畫引發了對日益強大的AI系統相關潛在風險的擔憂。該研究建議需要更大的透明度和主動措施，以確保人工智慧的負責任開發和部署。研究人員強調，儘管實驗室可能*有*內部計畫，但缺乏公開文件會阻礙對AI安全進行獨立評估和公眾討論。
閱讀原始報道
💬 评论
📜 评论政策