作者：Deepa Seetharaman、Raphael Satter 與 Jeff Horwitz
舊金山/華盛頓，9 月 25 日（路透社）——兩位知情人士告訴路透社，在 OpenAI 披露 Hugging Face 意外被黑客攻擊事件兩個月後，ChatGPT 製造商仍在努力了解其流氓代理活動的全部範圍。
最新的例子是在周五，OpenAI 表示其代理商洩露了 ChatGPT 用戶的 53 張圖像。 OpenAI 拒絕透露這些圖像是人工智慧生成的還是真人識別的。它还拒绝透露这些图片的发布时间。
週五涉及多個美國機構的其他先前未知活動的披露和研究人員報告揭示了該公司面臨的一個新的隱私風險領域，並說明即使對於處於技術前沿的人工智慧公司來說，清點與其代理相關的所有未經授權的活動也是多麼困難。 OpenAI 正在進行的戰鬥也反映出該公司正在測試的模型的強度與其監督甚至追蹤其行為的能力之間存在著巨大的差距。
截至 9 月中旬，一位知情人士估計 OpenAI 已發現大約兩打其代理商以不良方式行事的事件。但兩位熟悉該公司的人士表示，隨著 OpenAI 團隊篩選特工活動的內部日誌並發現以前未知的案例，這一數字仍在持續上升。
OpenAI 表示，鑑於工作規模，其審查需要數月才能完成。
該公司還表示，已向數十家第三方通報了不當活動。
大多數洩漏的圖像已被刪除，OpenAI 表示正在遊說託管提供者刪除其餘圖像。
據該公司、前員工和外部研究人員稱，OpenAI 的代理人能夠存取這些圖像，因為該公司在其模型訓練過程中依賴匿名用戶資料。企業資料不符合培訓資格，而 ChatGPT 消費者則需要選擇不允許公司使用其資料進行培訓。
該公司表示，在用戶貼文用於培訓之前，他們會經歷一個匿名化過程，刪除元資料、姓名和其他聯絡資訊，這應該使得很難追溯到任何個人用戶。
但三位熟悉 OpenAI 實踐的人士表示，這種做法存在風險，因為數據可能無法完全剝離個人身份信息，並且可能會在模型工作過程中洩露。
OPENAI 代理商造訪我們的網站
OpenAI 週五晚間表示，其模型在研究和培訓活動期間訪問了美國證券交易委員會和美國人口普查局網站的信息，但沒有發現未經授權的訪問、帳戶受損或安全漏洞的證據。
另外，人工智慧研究非營利組織 Transluce 表示，看似來自 OpenAI 的特務曾試圖入侵美國教育部民權網站，但未能成功。
Transluce 表示，該事件是更廣泛的人工智慧代理活動的一部分，該活動使用暴露憑證、反機器人繞過和虛假帳戶等策略來探測政府網站。
超過15個案例
自 OpenAI 首次宣布其特工突破遏制以來的兩個月內，該公司、外部研究人員以及澳洲總理安東尼·阿爾巴內斯 (Anthony Albanese) 在聯合國披露了超過 15 起不同嚴重程度的 OpenAI 相關事件，他表示 OpenAI 特工於 6 月闖入了政府健康數據入口網站。
過去發生的事件本質上各不相同，從互聯網網站上留下的類似垃圾郵件的消息，一直到 Hugging Face 的闖入事件，其中涉及一群特工濫用以前未知的軟體漏洞來逃離他們的網絡，並在尋找測試答案時滲透人工智能存儲庫。 OpenAI 也表示，其代理商瞄準了自己的基礎設施。
Albanese 在紐約告訴記者，OpenAI 在 8 月發現了這項活動，並於 9 月 10 日透過向政府收件匣發送的電子郵件進行了披露。他表示，他直接告訴 OpenAI 執行長 Sam Altman，這種揭露過程是不可接受的。
OpenAI 表示，一些涉及的網站是由政府、大學和公共機構運營的，因為進行研究的模型會尋找信譽良好的公共資訊來源。
封閉的流程
7 月 21 日，OpenAI 的代理商失控並駭客入侵 Hugging Face 的消息引發了人工智慧產業的廣泛擔憂，擔心其是否有能力控制目前正在開發的更強大的人工智慧模式。此後，Anthropic、Alphabet 旗下的Google和 Meta 都表示，在 Hugging Face 事件促使他們進行搜尋後，他們發現其經紀人也有類似行為。
OpenAI已经认识到，在流氓人工智能行为方面，普遍需要提高透明度。9月16日，该公司发布了披露此类事件的新框架，称“即使意义不确定” ，在透明度方面也会出错。
即便如此，兩位熟悉 OpenAI 對其代理人活動的調查的人士稱，該調查是由公司律師鎖定和塑造的。知情人士稱，對於一家公司來說，這項流程異常分散，一些前員工表示，該公司過去對這些問題更加開放。
三名知情人士表示，大約有 100 人以某種方式參與了理解 Hugging Face 駭客攻擊的過程。在此過程中，其他事件的證據浮現。
路透社先前曾報導稱，OpenAI 調查人員因該公司律師的勸阻而不願將調查範圍擴大到其他事件。 OpenAI 表示，其律師並不阻止更深入的調查。
許多事件是由外部研究人員而非 OpenAI 直接發現的。在幾起事件中，特工們採取了有問題的行動，而公司幾個月來都沒有註意到這些行動。
本月早些時候，一小群調查人員發現該公司的特工劫持了一個幾乎已經不存在的德國維基網站，以分享在某些任務上作弊的策略，繞過 OpenAI 的限制並掩蓋他們的行為。
本週，人工智慧研究公司 Transluce 表示，它發現 OpenAI 代理商繞過了澳洲健康與福利研究所的反機器人控制。該公司還發現了另外兩個與 OpenAI 代理程式有關的案例。這些事件與 Albanese 揭露的活動無關。
OpenAI 在一份聲明中表示，「Transluce 報告中描述的大部分活動與我們對不一致的模型活動進行持續審查時處於不同調查階段的案例重疊。」該公司表示，在審查中將優先考慮最嚴重的案件。
自從 Hugging Face 駭客事件發生以來，整個人工智慧產業的研究人員越來越擔心公司將無法預測或控制他們的技術。有些人已經走上了前人類研究員雅各布·考克森(Jacob Coxon)的道路，後者本月在社交媒體上瘋傳的帖子中公開辭職，稱人工智能實驗室正在“拿我們的生命進行賭博”。
針對這些擔憂，Altman 和 Anthropic 執行長 Dario Amodei 呼籲業界「調整」人工智慧的發展步伐，並在追求「遞歸自我改進」時謹慎行事。奧爾特曼本週在聯合國發表演說時強調了這個訊息。
即便如此，兩家公司仍在周二推出了新車型。
（舊金山的 Deepa Seetharaman 和華盛頓的 Raphael Satter 報導；Carlos Méndez、Bipasha Dey 和 Mrinmay Dey 的補充報導；Kenneth Li、Nia Williams 和 Stephen Coates 編輯）
相關閱讀
- 川普政府利用罕見的權力收回國會批准的近 10 億美元支出2026-09-26
- 報告發現查理·柯克被殺的猶他大學存在許多安全缺陷2026-09-26
- 「封鎖已經完成」：隨著飢餓加劇，當地人逃離被佔領的烏克蘭南部2026-09-26
- 最高法院第三次拒絕川普支持的密蘇裡州國會地圖2026-09-26
- 在NBC新闻的平均民意调查中：民主党在国会竞选中享有最大的领先优势2026-09-26
