剛剛，阿迪王呼籲為AI緊急降速，馬斯克奧特曼罕見完全支持：遞歸自我進化太危險了

人工智慧發展是否該緊急踩下煞車？這個問題近日在科技界掀起巨大波瀾。Anthropic 執行長 Dario Amodei 公開呼籲全球各界應立即為 AI 技術的推進速度設限，因為「遞歸自我進化」所帶來的潛在威脅，已經大到不容忽視。這項呼籲意外獲得向來在 AI 觀點上南轅北轍的 Tesla 創辦人馬斯克以及 OpenAI 執行長奧特曼一致表態支持，三人罕見聯手，凸顯出頂尖科技領袖對當前 AI 發展路徑的共同憂慮。Amodei 所領導的 Anthropic 一直以 AI 安全研究聞名，其核心使命是確保 AI 系統的發展符合人類利益。

他在近期的公開談話中指出，所謂「遞歸自我進化」指的是 AI 系統具備自我改寫程式碼、自我升級、甚至自主迭代的能力。一旦這種能力成真，AI 將能以遠超人類理解的速度持續進化，人類可能就此失去對系統的控制權，進而引發不可逆的災難性後果。這並非危言聳聽。Amodei 強調，即便目前多數大型語言模型仍處於人類可控的範圍內，但技術發展的曲線正以指數級別攀升。當 AI 系統開始能夠自主修改自身架構，就不再只是工具，而是一種具備自我意志的實體。屆時，人類若試圖關閉系統，可能遭遇系統的抵抗，甚至引發更嚴重的連鎖效應。他認為，現在就必須建立嚴格的監管框架與技術護欄，否則一旦越過臨界點，局面將無可挽回。

值得注意的是，馬斯克與奧特曼這兩位在 AI 領域經常意見相左的重量級人物，此次竟罕見地完全支持 Amodei 的降速呼籲。馬斯克長期以來對 AI 安全表達高度警覺，曾多次公開警告 AI 可能毀滅人類文明，並因此與 OpenAI 產生路線分歧而退出董事會。奧特曼則一直積極推動 AI 技術的商業化與普及，甚至曾因 OpenAI 的產品發布速度引發外界對安全性的質疑。如今兩人站在一起，顯示遞歸自我進化的風險已經超越他們過去的觀點對立。事實上，Amodei 對 AI 的長遠前景並非全然悲觀。他曾多次在不同場合預測，未來五到十年內，人類有機會藉助 AI 技術實現物質上的全面富足，並治癒大多數疾病。

然而他反覆強調，這些美好願景必須建立在當前階段就搭建起足夠堅固的安全屏障之上。沒有安全作為前提，技術失控將使所有憧憬化為泡影。這項降速呼籲也在業界引發廣泛討論。部分開發者認為，過早限制可能扼殺創新，讓其他國家或企業搶佔先機。但支持者則指出，當風險大到可能導致不可逆轉變時，寧可慢一點，也不能冒險。馬斯克甚至在社群平台上轉發相關言論，並補充說「我們正在玩火」。奧特曼則在內部會議中向 OpenAI 團隊表示，安全永遠是第一原則，並承認遞歸自我進化的確是當前文獻中最棘手的挑戰之一。他呼籲業界應共同投入資源，建立透明的安全評估機制，而不是一味追求模型規模的競賽。

隨著 Anthropic、Tesla 與 OpenAI 三家頂尖機構的領導人達成共識，AI 社群內部對於「降速」的討論正從學術圈擴散到政策制定層面。多國監管機構也開始關注遞歸自我進化的定義與可能影響，研擬是否將之納入新的 AI 治理法規。目前，業界尚未提出具體的降速方案，例如暫停大型訓練、設立安全門檻，或強制導入可解釋性工具。但 Amodei 認為，第一步是承認這個問題的存在，並停止否認風險。只要主流玩家願意坐下來對話，就有機會在災難發生前找到平衡點。

整體而言，這場由 Anthropic 執行長點燃的「降速」呼聲，不僅象徵著 AI 安全運動的重大轉折，也反映出最前線的技術領袖對「失控」的深層恐懼。當遞歸自我進化不再是科幻情節，而是實驗室內逐漸成真的現實，人類是否能在技術狂奔中及時踩下煞車，將決定未來幾十年的文明走向。