OpenAI因安全問題將暫停釋出新模型

據央視新聞消息，美國開放人工智能研究中心（OpenAI）28日證實，經過內部測試，他們最新的人工智能模型“GPT-6.1 阿斯特拉”未能達到安全標準，公司將不會對外發布該模型。

OpenAI安全系統負責人薩奇・賈殷在向媒體發送的一份聲明中稱，“GPT-6.1 阿斯特拉”在部分性能上相比前代模型有所提升，但“在任務邊界把控、權限遵守，以及向用戶反饋自身工作內容方面，並未達到合格標準”。

聲明說，無論是在公司內部使用，還是面向用戶正式發布，我們都要確保模型的開發是安全的。

AI模型侵入澳政府網站 OpenAI致歉

就在幾天前，澳大利亞總理阿爾巴尼斯在紐約出席第81屆聯合國大會期間透露，OpenAI的一個智能體今年6月曾侵入澳大利亞政府網站。

澳大利亞總理 阿爾巴尼斯：這起事件涉及一個OpenAI智能體未經授權訪問澳國民醫療保險體系數據門戶。該AI智能體不僅訪問了公開文件，還訪問了非公開文件。

阿爾巴尼斯稱，澳方直到9月早些時候才收到OpenAI的通報。他已經與OpenAI首席執行官奧爾特曼通話，表達澳大利亞對此事的極度關切。

澳大利亞總理 阿爾巴尼斯：我表達了我的失望，因爲該公司拖了太長時間才將發生的事情告知我們政府。

28日，OpenAI公開致歉，承認事件處置存在不當，並承諾承擔責任，稱要“重建澳大利亞民衆的信任”。公司表示，“模型找到了獲取非公開訪問權限的途徑，調取了相關數據，還進行了文件寫入操作。”

該公司同時確認，首席戰略官傑森·權將於10月6日在悉尼出席澳大利亞參議院人工智能專題委員會聽證會。