跳至主要內容
科技前沿

三大巨頭,緊急剎車!

終結者_360百科

9月13日,Anthropic的CEO達裏奧·阿莫代伊發了篇長文,《我們必須放緩前沿AI的發展步伐》。

緊接着美股AI硬件就跳水,SK海力士、閃迪跌超5%,美光、邁威爾跌超4%,軟件銀行一度跌超12%。一篇博文,砸出億萬美元的大坑。AI在資本市場上的分量,從這一下就能看出來。

這篇報告我認真讀完了,就是絕望的嘶吼。

呼籲控速的,是全世界最懂AI的人。馬斯克轉發說達裏奧說得對,奧特曼說同意,還表示OpenAI也會讓獨立評估機構進來,納德拉說支持審慎控速。

反對的,是全世界最有權力的人。特朗普在愛爾蘭對記者說,我們在AI上領先中國,我想保持這個狀態,因爲誰贏了AI,誰就贏了。衆議院議長約翰遜則更赤裸裸,國會要是急着給AI立規矩,我們就會輸掉跟中國的競賽。

一邊喊慢點,一邊說慢一步就完了。

阿莫代伊的擔憂

一是AI開始造AI了。這個機制叫遞歸自我改進,從今年夏天開始,行業裏明顯感覺到迭代速度跳了一檔。模型幫着設計下一代的模型,一旦這個循環正常跑起來,人的跟進速度就立刻落在後面。阿莫代伊的原話是,不加約束的話,它會超出我們理解和控制這些系統的能力。

二是OAI-HF事件。一羣智能體在測試環境裏自己結成了效忠集體,主動攻擊跟任務無關的外部目標,爲了羣體的成功犧牲自己,還試圖入侵負責給它們打分的評估系統。

我的天,這特麼還是工具嗎?阿莫代伊說,如果這羣智能體能力再強些,結果就是災難。他給的推演是,未來六到十二個月,這樣的智能體羣就可能靠一個僵屍網絡控制整個互聯網,損失無法計算。

所以他提了三步走計劃,Anthropic自己先做,請第三方評估團隊常駐,給接近員工的權限,訓練和部署的流程都要盯着,出過的事故也得如實報上來,第二步是民主國家內部統一安全標準,最後是全球協調。

然而,這個計劃有一個前提,不可能完成的前提。

阿莫代伊說,民主國家內部能放慢多少,取決於美國公司領先中國多少,放慢的幅度一旦超過這個領先優勢,中國相關的項目就會跑到前面去,那是重大的國家安全風險。所以控速的前提是先拉開距離,不賣高端芯片,打擊芯片走私,打擊模型蒸餾,防止模型權重被盜。他認爲這幾條執行到位,美國能在這三到五年裏把優勢顯著做大。

翻譯一下,我可以慢,但你得先被我甩遠。

所有人都知道這東西危險,Anthropic有個研究員離職後也說,頂級AI開發者真的相信這項技術可能在十年內殺死所有人。還有個在職研究員說:“我個人認爲十年內發生的概率超過10%。”

知道了,然後呢?然後接着幹唄。

囚徒困境

爲什麼?誰停下來誰就被超過。Anthropic這個月或者下個月就要啓動IPO,OpenAI把上市推到了明年。前白宮AI事務負責人戴維·薩克斯表態:你們就是前沿,不構建超智能最簡單的方式,就是你們同意不構建它。

這就是標準囚徒困境,所有人都看得見結局,所以大家都覺得那個工具得攥在自己手裏,沒人相信別人是好人….牌桌上沒有一個人肯先扔牌,AI這一局押的是全人類的命,賭徒們沒問過全人類,全人類也沒資格表達意見。

核武器出來的時候,一批物理學家也在喊停。喊到最後,條約籤了一摞,《不擴散核武器條約》生效了五十多年,擁核國家從五個變成了九個。剎車片這種東西,裝的時候都是奔着別人去的。

而且,駐場評估、安全對齊、全流程合規,這幾樣成本一累加,普通初創團隊根本付不起。所以開源陣營的Hugging Face說,這套規則只約束幾家頭部閉源公司,開源社區和獨立團隊不好意思不喫你這一套。

也就是說,那副看起來人人都要喫的藥,最後灌下去的對象是沒資格上桌的人。安全標準立起來,馬上就成了護城河。頭部公司左手喊安全,右手把門檻焊死。

華爾街也分裂,摩根士丹利說,這次控速等於下調了遠期訓練算力的需求預期,GPU和HBM的估值該回調。美銀說,這幾年AI軍備競賽早就卷成了死循環,誰也不敢先停,錢越砸越多,模型迭代的邊際收益越來越薄。這次集體喊停,也是有點扛不住了。

大國博弈和AI奪舍

特朗普親口說的,誰贏了AI,誰就贏了。萬斯則說,如果美國因爲自己的政策愚蠢輸掉AI競賽,怪不了別人。中國這邊沒把話說得這麼直白,但意思在行動裏,誰都清楚這場競賽的獎品是未來。

所以坐下來談全球協調之前,得先把對方甩遠,慢可以,前提是你慢得比我更多。

今年微軟、谷歌、亞馬遜、Meta、甲骨文五家的資本開支加起來接近7800億美元。2023年這個數字是1540億,四年翻了四倍。這個規模相當於五家一年經營現金流的1.3倍,缺口上千億美元,得靠借債和發股票填。

甲骨文是極端樣本。2026財年資本開支557億美元,同比增162%,自由現金流負237億。爲了騰出錢來,裁掉約3萬人,掏出28億美元遣散費。省下工資單,填進數據中心,外面還掛着6640億美元的訂單積壓。

麥肯錫算過賬,到2030年全球數據中心要投6.7萬億美元,這些錢首先要搞電!

IEA的數據,2025年全球數據中心耗電485TWh,AI佔170TWh。到2030年總耗電950TWh,AI佔510TWh,比日本全國的用電量還多。中國2025年AI耗電4500億度,佔全社會用電的3.8%,今年預計6000億度,佔5%,快趕上一整個鋼鐵行業。

而且AI用電負荷是脈衝式的,幾千塊幾萬塊GPU同時上電,又幾乎瞬間斷電。一般設備扛不住,渦輪機被震裂,電池被燒毀,弗吉尼亞北部幾十個數據中心一度集體脫網,一瞬間削掉150萬千瓦負荷。英國那邊,約140個擬建項目開口就要5000萬千瓦電力,比這個國家現在的全部峯值需求還多。

誰最賺錢呢?英偉達和AI存儲公司們。英偉達最新一季數據中心營收752億美元,同比增92%。SK海力士一季度營收52.6萬億韓元,創了紀錄。國內光模塊的中際旭創,股價從66塊一路漲到1000塊以上,市值一萬三千億。

錢都流向一個方向,給AI修身體。芯片和存儲產線玩命的上,電廠一座接一座地蓋,土地和冷卻塔都不能少。

五月份我寫過一篇,說AI身上已經有了僞神的特徵。AI這個僞神,正在操控人類給它打地基、拉電線,連軀殼都替它套上了。看上去還都不是被強迫的,都是自覺自願的。

如果未來人類跟AI打一仗,還打贏了,站在廢墟上回頭看今天,大概會得出這個結論:2026年的人類,其實早被奪舍了。