跳至主要內容
科技前沿

人類工程師對克勞德程式碼的警告解釋了為什麼技術中斷可能會變得更糟

最近有許多著名的科技服務出現中斷,以至於這些問題以我們從未見過的新方式成為主流。 

除了頭條新聞和播客(其中一些詢問這實際上是新事物還是我們只是更多地註意到它)之外,技術中斷還導致副總統 JD Vance 無法參加紐約活動,導致白宮網絡安全主管辭職,製作了《週六夜現場》,並成為大量表情包和 TikTok 喜劇的主題,人們開玩笑說“LinkedIn 和 Tinder 一定是宕機回復了,因為我沒有得到任何回應!”

正如我們最近所寫,問題遠不止於網路安全,儘管人工智慧意味著駭客可以以前所未有的方式發現和利用漏洞。基礎設施破舊。維護被推遲。精疲力盡、規模過小的 IT 員工團隊無法應付這種混亂程度。

但還有另一個可能未被充分認識的解釋:Claude Code 的一個重大缺點,Claude Code 是一款讓 Anthropic (ANT) 估值達到數萬億美元的知名產品。

最了解這個問題的人可以最好地解釋這個問題:一位著名的 Anthropic 工程師(也是前 Google 工程師),他是 Claude Code 的技術人員之一,Addy Osmani,他關於「理解債」的論文在 3 月份在軟體工程界引起了廣泛關注,在今天甚至更有意義。

Osmani 強調的並不是 Claude Code 的真正弱點,而是公司和工程團隊如何使用它。重點:人工智慧編寫程式碼的速度比我們審查程式碼的速度快。速度是一個巨大的好處,但它也是一個詛咒,因為無數公司從編寫程式碼轉向監督抱怨更少、編寫更多的人工智慧代理團隊。

正如微軟執行長薩蒂亞納德拉本週所說,該公司的工程師“建立了一個構建產品的軟體工廠。他們不建造產品。”

2026 年 11 月 19 日,当 Anthropic 的股票在美国纽约时代广场首次公开募股后开始交易时,达里奥·阿莫迪 (Dario Amodei) 出现在纳斯达克 MarketSite 的显示屏上。 (Stephanie Keith/NurPhoto via Getty Images) · NurPhoto 來自 Getty Images

傳統上,檢查其他人的程式碼的費力過程是軟體工程師如何內化為什麼系統是這樣設計的,以及為什麼專案早期的決策在今天可能是有意義的。

但鑑於我們現在產生人工智慧程式碼的速度有多快,審查整個人工智慧程式碼是不可行的。它太笨重了,這代表了進步的巨大瓶頸。測試、人工智慧審查和花更少的時間審查都是有效的。但奧斯馬尼解釋說,他們已經消除了層層驗證,並最終消除了理解,而這種理解正在消失。

所有这一切都意味着,随着代码的积累速度超过了人类的审核速度,公司可能会以一种远比某种有感知能力的人工智能或天网末日情景更加平淡无奇的方式失去对其系统的控制。

About Us · 關於我們