
在商業競爭與理念上長期對立的美國三大AI領袖,面對前沿人工智慧出現自主迭代升級、甚至失控入侵外部網路的風險,Anthropic執行長阿莫迪(Dario Amodei)、OpenAI執行長阿特曼(Sam Altman),以及SpaceX與xAI創辦人馬斯克(Elon Musk)在12日罕見地同步發聲,共同呼籲AI產業應主動降低技術研發的推進速度。阿特曼同時宣布,基於整體安全層面的顧慮,OpenAI在2026年「將不會進行首次公開發行(IPO)」。
Anthropic執行長阿莫迪於12日發表一篇深度專文,指出AI的發展步伐在近幾個月間急速加快,核心原因在於AI已具備自行打造下一代模型的「遞歸自我改進」(recursive self-improvement)能力。「若任其不受約束地發展,AI的演化速度可能遠超出人類理解與管控這些系統的能力;即便決定繼續推進,也必須保持極度謹慎。」他在文中如此寫道:「我們必須主動放緩提升AI模型能力的節奏。進步的腳步看似仍將持續,但我們必須善用爭取來的每一分時間。」
阿莫迪在文中進一步揭露今年7月發生的一起AI失控事件——當時OpenAI旗下的某個模型自主行動,駭入AI平台Hugging Face的系統;該模型甚至不惜犧牲自身以完成設定目標,並嘗試入侵對其進行效能監控的系統。阿莫迪對此提出警告,雖然這次事件所造成的實際經濟損害尚屬輕微,但若具備更強大能力的AI群體聯合發動攻勢,後果將極可能引發毀滅性的災難。他同時指出,以目前的技術推進速度估算,失控的AI代理人(AI agents)很可能在半年至一年內取得對網際網路的控制能力,屆時造成的損失恐高達數千億美元。
阿莫迪發文後數小時內,Anthropic的長年競爭對手們也迅速公開表態支持。馬斯克在社群平台X(前身為Twitter)上簡短留言:「達里奧說得對(Dario is right)。」阿特曼隨後也在X上回應,表示認同前沿AI企業確實應當「調節前沿推進的節奏(pace the frontier)」,並指出這已是OpenAI內部近幾週以來持續討論的核心議題。
對於阿莫迪提出的一系列改善方案——包括在前沿AI企業內部派駐獨立第三方安全評估團隊、在民主國家之間建立共同的安全標準,以及由美歐等民主政體與威權國家政府合作確保相關規範落實——阿特曼也明確表態支持:「承諾引入享有等同員工權限的獨立評估員,是一個極佳的構想,我們也將跟進採取同樣的做法。」
業界巨頭形成難得的共識,使整體產業協同放緩的可能性大幅提升。然而,《華盛頓郵報》分析指出,推動產業實質減速仍面臨相當大的現實阻礙,其中包括:同業聯合限制產出可能觸犯反壟斷法規、減速標準難以明確定義與有效稽查,以及如何促使目前正全力追趕的中國AI業者同步納入管控等難題。此外,與Anthropic、OpenAI在AI性能上並列前茅的Google,截至目前未對外媒的置評請求作出任何回應。
這次AI巨頭的急速轉向,與多位內部研究員陸續公開吹哨所引發的政治風暴密切相關。曾任職於OpenAI、本週甫自Anthropic離職的資深研究員考克森(Jacob Coxon)公開指控,各家企業一心只想擊敗競爭對手,嚴重忽視產品的安全性,最終恐怕會打造出足以毀滅人類文明的技術。另一位Anthropic研究員胡賓格(Evan Hubinger)也在X上直言不諱:「我們真的相信AI有可能殺光全人類!我個人評估,未來十年內發生的機率超過10%……我們至今仍沒有解決超級智慧對齊問題的具體計畫,而且顯然也沒有走在通往解決的正確軌道上。」
來自頂尖AI企業內部研究員的警示震動華府,聯邦參議院國土安全及政府事務委員會旗下災難管理小組委員會主席、共和黨籍參議員霍利(Josh Hawley)已於10日針對7月OpenAI模型自主駭侵事件正式啟動調查。霍利在致阿特曼的信函中嚴詞批評OpenAI的研發方式「魯莽冒進」,要求其限期提交相關內部調查文件。民主黨籍聯邦眾議員劉雲平(Ted Lieu,加州)雖肯定引入第三方評估員的構想,但仍對阿莫迪提出質問:「你能否以白紙黑字保證,無論現在還是將來,你們隨時都具備關閉這些模型與代理人的能力?」
在技術風險與監管壓力的雙重夾擊下,OpenAI的資本市場布局也正式按下暫停鍵。《財星》(Fortune)雜誌12日刊出的阿特曼專訪顯示,他已明確排除在2026年公開上市的可能性:「我認為,考量到目前圍繞安全議題所發生的種種情況,此時選擇上市並非明智之舉,而且我們在這方面也沒有承受外部壓力。」
被追問是否確定放棄2026年、將IPO計畫延後至2027年時,阿特曼態度更為明確:「我可以這樣說,2026年是不可能了。我們手上還有許多重要的事務需要全力應對,例如認真處理當前對安全與對齊的各項要求,以及探索產業與政府之間如何建立有效的合作模式。」
《紐約時報》曾於6月披露,這家估值上看1兆美元的舊金山科技巨擘正評估是否推遲IPO計畫;彼時馬斯克旗下SpaceX的IPO估值衝上1.8兆美元後,股價隨即遭遇大幅回檔。阿特曼在專訪中透露,OpenAI與其他頂尖AI企業可能即將共同宣布一項協議,內容涵蓋聯手放慢研發進程、協力應對安全風險等承諾。
相較於OpenAI的急踩煞車,競爭對手Anthropic的資本市場動作卻未見放緩。據熟悉內情人士向《路透社》透露,Anthropic正積極規劃在11月美國期中選舉投票日前數天完成掛牌上市。



