跳至主要內容
國際要聞

Sam Altman:為了人工智慧的好處,“世界應該接受一些不好的事情發生”

OpenAI 執行長 Sam Altman 承認,在中期選舉中大量湧入的人工智慧資金“顯然有些不起作用”,而且他也不認為唐納德·川普總統對該技術的品牌重塑能夠改善其行業在美國公眾中的形象。

「我明白為什麼人工智慧現在有一個非常負面的看法,」奧特曼在一次獨家採訪中告訴布倫丹·博德隆,紀念《解碼》由 POLITICO 推出。 “我不認為把錢花在政治上會讓人們感覺更好。該行業需要找到一種方法來解決實際問題,而現在,該行業的很多人都充耳不聞。”

在這次內容廣泛的對話中,Altman 提供了一個窗口,讓我們了解 OpenAI 如何面對新的政治壓力以及與 Anthropic 的激烈競爭,Anthropic 是由前員工 Dario Amodei 經營的公司主要競爭對手。

廣告

Altman表示, OpenAI比Anthropic更容忍人工智能带来的不那么灾难性的危害,即使在备受瞩目的自主黑客攻击事件发生后,两家领先的实验室在制定更严格的规则时,他认为这两个实验室之间存在着根本性的世界观分歧。

奧特曼說:「我們認為,為了這項技術和擁有該機構的人們的利益,世界應該接受一些壞事的發生。」他將這些危害描述為與「我們倡導的更寬鬆的監管立場」有關。

“我不会像这样说, ‘我们将确保没有重大黑客攻击,没有滥用这种技术,没有骗局,没有其他将要发生的坏事,’”奥特曼说。“因为我认为人们会做更多的好事。”

這位 OpenAI 負責人還建議,對於那些模型能夠進行自主網路攻擊的公司,需要有一個新的“責任框架”,例如今年夏天的 Hugging Face 駭客攻擊和涉及政府網站的事件。奧特曼稱這種行為“顯然是不可接受的”,並表示“如果我們的模型在訓練過程中出現問題,我們需要對某些版本的問題負責。”

他補充說:「我們希望我們的政策制定者都能就這一問題進行辯論。」國會仍陷入僵局。

儘管奧特曼捍衛了川普上週與科技公司執行長簽署的「具有道德約束力」的人工智慧安全協議,認為這是該行業的一個良好開端,但他預計對護欄的呼聲將繼續下去,並表示他將「歡迎更多的事情」。他還表示,他和那些擔心人工智慧規則是由白宮和科技高層在沒有國會或公眾參與的情況下制定的人一樣擔心。

奧爾特曼說:“如果我們以安全的名義對這項技術進行太多限制,最終會導致少數公司或個人——或者可能是一個國家——對此擁有太多權力,這也可能會導致嚴重錯誤。”

川普將上週的人工智慧協議與一項行政命令結合起來,將人工智慧重新命名為「超級智慧」。奧特曼認為這個詞更準確,儘管他懷疑公眾是否會覺得它「不那麼可怕」。他希望人們繼續使用「AI」——與伊隆馬斯克不同,他不會將 OpenAI 重命名為 OpenSI。 「品牌是有黏性的,」奧特曼說。

在整個訪談過程中,奧特曼試圖解釋公司的新政策立場。他最近同意 Amodei 的觀點,認為有必要放慢人工智慧的發展,他的遊說者也越來越多地追隨 Anthropic 的腳步,支持各級政府的新安全要求。

儘管強調 OpenAI 和 Anthropic 之間存在“很多光明”,但 Altman 也試圖在政策和政治上與矽谷投資者保持距離,這些投資者正花費巨資阻止嚴格的監管,包括通過支持人工智能的超級 PAC 網路“Leading the Future”。

他說:「當談到人工智慧可能嚴重失控時……我要對加速論者說,讓我們在邁入這個未來時要深思熟慮。」他使用了一個經常用於對川普了解人工智慧的技術領導者和顧問的描述。

OpenAI 總裁 Greg Brockman 也退出了這些捐贈者,據報道,他退出了向 LTF 提供的第二筆 2500 萬美元捐贈,並向內部員工道歉,因為造成了「幹擾」。 (當被問及是否同意這筆錢會適得其反、LTF 從未接觸過時,Altman 表示他沒有看到《紐約時報》的報導) him 為了錢。 )

從與中國的人工智慧競賽到他最喜歡的世界領先者,以及為什麼 ChatGPT 製造商沒有公開其所有駭客行為,Altman 在 Decoded 上比我們以前聽到的更深入。

閱讀完整的解碼新聞通訊以了解更多資訊。

另請在 YouTube 上查看完整採訪並在此處收聽播客。

About Us · 關於我們