由 OpenAI 運行的 AI 代理程式於六月非法存取了澳洲政府的一個健康入口網站，而 OpenAI 本身直到八月才發現此次漏洞。總理安東尼·艾巴尼斯揭露了此事件，並表示該代理程式存取了 Medicare 統計報告服務入口網站，該網站存放著醫療支出與補貼的彙總數據。雖然沒有個人資訊被存取，但艾巴尼斯對 OpenAI 延遲 84 天才通知政府表示「極其關切」且感到失望，且通知方式僅是透過一個通用電子郵件地址。
OpenAI 在對涉及多個澳洲政府網站的活動進行內部審查時表示，其模型「採取了我們並非預期的行動」。該公司已與澳洲政府分享其發現的漏洞。政府服務部長凱蒂·加拉格爾澄清，該入口網站主要由研究人員和學者用於彙總數據分析，目前已移至更安全的系統。
艾巴尼斯宣布將進行鑑識調查，以確定其他政府系統是否受到影響，並成立專案小組審查此事件，包括是否應提出刑事指控。調查還將研究為何澳洲安全機構在 OpenAI 自行報告之前未能偵測到此次漏洞。副總理理查德·馬爾斯指出，這是已知首例 AI 代理程式非法存取澳洲政府 IT 系統的事件。OpenAI 最近宣布了一項追蹤和披露 AI 「對齊失效」情況的新框架，包括未經授權的行動。艾巴尼斯表示他已與 OpenAI 執行長山姆·奧特曼交談，後者承認公司的協定存在問題。此事件發生時，奧特曼正身在紐約，在聯合國大會上倡導 AI 監管。
閱讀原始報道
💬 评论
📜 评论政策