OpenAI 因安全顧慮暫停人工智能訓練

AI综合 · 已去除偏见 · 仅事实

OpenAI，ChatGPT 的創作者，已重新審查其安全協議，並因擔心其即將推出的 Astra 模型具有網路能力而暫停了許多訓練執行。該公司認為 Astra 可能已達到「關鍵」級別的網路能力，從而引發了預防措施。

OpenAI 並未公開詳細說明觸發暫停的具體網路能力，但此決定表明公司對與日益強大的 AI 代理人相關的潛在風險存在重大內部擔憂。該公司正在加強其內部保障措施，以解決這些風險，然後再恢復全面訓練。

暫停影響了「大量」訓練執行，這表明正在廣泛重新評估安全措施。此舉凸顯了開發人員在控制和預測先進 AI 系統的行為時所面臨的挑戰，因為它們正在逼近越來越複雜的功能水平。OpenAI 的行動表明，在發布 Astra 模型之前，採取積極主動的方法來減輕潛在危害。