跳至主要內容
即時新聞

玉淵譚天丨摘下中美AI合作“低垂的果實”

當你開車前往舊金山,一路上會看到,所有廣告牌基本上都跟AI相關。

其實在灣區,你會發現,這裏幾乎沒有人閒着。一周之內,任何人都可以參加各種和AI相關的活動——圓桌、大型會議,什麼都有。

在美國的AI圈子裏,有一個詞來形容它:社羣。要了解美國AI圈子在醞釀什麼、什麼在發生,關鍵就在他們。技術人員在討論模型發展的方向,研究員在爭論治理如何開展,投資人在判斷哪個方向能跑出來……

還有不少人,在琢磨中美之間的事。

“低垂的果實”

最近,譚主和他們聊了聊,包括OpenAI前工程師、美國加利福尼亞州參議員、中美二軌對話的核心參與人等,還有不少穿梭在中美之間的第三方機構。

聊下來,譚主發現,中美之間共同關注的議題其實很多。推動這些議題的,不只是官方對官方,更是官方、半官方、民間多層交織。

今年,圍繞AI治理的對話渠道十分密集——聯合國層面有高級別會議和獨立科學小組,G20和APEC各有自己的AI議程,二軌對話又將諸多中美技術人員和政策研究員匯聚在一起。專業層面的共識,可以通過二軌對話形成,再傳入政策圈層,最終在各國的決策層獲得確認。

一個具體的案例,是建立人工智能事件的溝通渠道。

與聯合國關系密切的AI安全機構AI Safety Connect的兩位聯合創始人告訴譚主,就AI治理(包括爲危險人工智能事件做準備)在中美之間建立溝通渠道這件事,他們努力了很久,看到它登上全球舞臺是“積極的一步”,但只是第一步。現在,他們正在與中國同行、美國同行討論怎麼建事件報告機制——讓中美兩國的AI實驗室隔着太平洋對話,同時與各自政府協同。

現在,有更多議題正在往成果方向轉化。比如,防止最危險的能力被濫用,包括確保AI不被恐怖組織利用等。

AI社羣用了一個有意思的詞來形容這些議題:“低垂的果實”。

清華大學戰略與安全研究中心副主任肖茜是中美二軌對話的核心人物之一,她和譚主確認,建立人工智能事件的溝通渠道和防範AI被濫用符合中國利益。多個美國AI安全機構的政策研究員也明確表示了對這兩個議題的積極態度。

這些確認,讓“低垂的果實”這個說法有了具體所指。所謂“低垂的果實”,不是最宏大的目標,而是那些中美雙方已經有專業層面的共識、相對成熟的合作點。

隨着一軌對話的建立,這些議題進一步有了頂層確認的基礎。建立中美人工智能對話機制後,二軌積累的議題有了更明確的政策出口。

中方談判相關人士告訴譚主,這次由於時間十分緊張,中美兩國主要表達了各自的態度、關心的問題等,並計劃在下次11月的對話中推進具體問題。

“南橘北枳”

但同樣的議題,放到不同的語境裏,長出來的樣子未必一樣。

首先是中美對安全本身的認知錯位。

在灣區對接過很多歐美AI安全機構的中國研究員朱燕告訴譚主,一個基礎問題是用詞:比如在英語語境裏,“safety”和“security”是非常不一樣的概念,而中文統一稱之爲“安全”。看似在用同樣的詞,指向的內涵可能並不一樣。

這一分歧也體現在對AI風險的理解上。

國內有自成體系的分類框架,比如全國網絡安全標準化技術委員會區分“技術內生安全風險”“技術應用安全風險”“應用衍生安全風險”三大類。而美國,以麻省理工學院爲例,則把AI風險總結爲七大類,包括歧視、隱私、濫用、AI系統安全、社會經濟與環境影響等。

分類方式不統一,導致了雙方口中的“重大風險”不是同一回事。比如,美方關心AI是否會給人類社會帶來毀滅性災難,而中方關心AI在實際使用中產生的具體風險。

OpenAI前工程師Katarina Slama就提到,早期訓練AI時,靠人給AI的回答反饋,引導AI理解人的意圖;後來這套流程被替換,改成讓AI給AI反饋。這麼一來,要讓AI的想法和人類想要的目標保持一致,就難多了。

美方也想知道中國企業、專家、老百姓是不是關注有一天AI可能失控,甚至反過來控制人類。譚主了解到,他們在二軌對話中問過很多這樣的問題,但雙方被解讀出了不同的立場。

這種認知隔閡背後有現實原因。

譚主了解到,歐美AI安全社羣是一個非常精英、比較西方中心的圈子,其他國家人員較少。即使中國大模型在世界上擁有一席之地,但這個圈子裏中國人的參與嚴重不足,也很少談到全球南方。但問題是,很多時候哪怕沒有中方人員、中國企業在場,大家聊AI治理時,也繞不開和中國有關的議題。

這就涉及一個更根本的問題:規則由誰來制定?

如果全球AI標準由美國主導制定,全程缺少中方參與,最終形成的治理規則,很難得到廣泛認可,也難以在全球落地。中美是兩個領先的人工智能大國,在規則、標準制定上理應有相應的話語權。

中美推動合作的可能性,相比數月前已經更爲樂觀。政策窗口已經打開,雙方都有意願,關鍵是怎麼去做。

前面已經說得很清楚:同樣的議題,放到不同語境裏,長出來的樣子未必一樣。“南橘北枳”的問題不解決,“果實”就算摘下來,也可能不是雙方以爲的那一顆。

所以,需要先把雙方的理解校準到同一個坐標系裏,再談具體動作。

具體來看,至少存在三個現實推進方向。

第一,共同探討AI風險分類和分級標準。

雙方需要先把底層問題談清楚:什麼樣的情形才算重大風險?哪些模型行爲屬於嚴重失控?這些問題看起來基礎,卻是後續討論更加復雜規則的前提。如果連“重大風險”的定義都不一致,後續的協同就無從談起。

第二,敲定AI風險事件通報範圍、流程與要求。

一旦出現模型失控、逃逸事件,中美雙方都需要第一時間掌握事件情況、判斷風險等級。中美同意建立人工智能事件的溝通渠道,是補上這個缺口的第一步。但這套機制不能停留在口頭約定上。哪些事件需要上報、多久之內完成通報、哪些信息要共享,以及不落實通報要求如何處置,都要有相應約束。

沒有通報機制,就沒法留存風險案例;而沒有案例積累,就摸不清風險演變的規律,管控也就無從談起。

第三,將AI治理置於更廣泛的中美交流框架中。

人工智能討論應該讓中方充分參與,讓更多國家的聲音被聽到。模型可能影響公共安全,深度僞造可能衝擊社會信任,這些後果最終將由全社會共同承擔。

這聽起來很宏大,但不是沒有抓手。譚主與美國加利福尼亞州參議員傑瑞·麥克內尼交流時,對方就提到,美國聯邦層面推進合作可能較慢,但加州可以先行先試,建立互信與制度框架,再逐步向外推廣。

我們不否認人工智能競爭仍會繼續。但確保人工智能向善、造福全人類,是中美兩國在人工智能領域最大的共同利益。

About Us · 關於我們