被“10年內AI滅世概率超10%”刷屏？先別急，這邊互聯網已經100%要被Agent搞崩了……

近來「AI 滅世」的討論再度升溫，社群平台上一則「10 年內 AI 導致人類滅亡的機率超過 10%」的論點迅速發酵，引發大量轉傳與恐慌。然而，在 AI 末日論的喧囂之外，一個更貼近現實、也更迫切的警訊正從科技巨頭內部浮現——人工智慧代理（AI Agent）所造成的網路混亂，恐怕已經讓整個數位生態瀕臨崩潰邊緣。根據業界近期揭露的內部狀況，微軟在不到一個月的時間內兩度「自曝家醜」，坦承其開發與維運體系正面臨前所未見的壓力。問題的根源並非來自外部攻擊或硬體瓶頸，而是大量由 AI 自動生成的程式碼正以驚人速度湧入，導致版本控制與程式碼審查系統被徹底淹沒。

微軟工程團隊在內部備忘錄中指出，Bug 修復的速度遠遠跟不上新錯誤產生的速度，軟體維護已陷入「追著跑」的惡性循環。更令人憂心的是，AI 代理對第三方外掛（Plugin）生態的衝擊同樣劇烈。微軟旗下的應用平台接獲的插件提交數量在過去數季暴增，其中絕大部分來自自動化腳本或大型語言模型生成的程式碼。這些插件品質參差不齊，部分甚至包含隱藏的安全漏洞。審查團隊的人力配置已無法負荷，審核排程嚴重延宕，導致開發者抱怨連連，也讓平台的安全性出現更多不可控變數。面對這場由 AI 引發的「程式碼海嘯」，微軟的應對策略之一，是加速推動程式語言基礎設施的更新。

近日該公司正式將 Rust 列為一級開發語言，與 C++、C#、TypeScript 等老牌語言並列。此舉被外界解讀為微軟試圖從根本提升程式碼的品質與安全性。Rust 以其記憶體安全與高效能著稱，能夠大幅降低因記憶體錯誤而導致的 Bug 與漏洞，特別適合用來處理高並發、低延遲的系統層面開發。微軟的決定，無異是向業界發出訊號：若繼續放任 AI 大量產出低品質代碼，未來的維護成本將徹底失控。與此同時，學術界與業界也對所謂「遞迴自我改進」（Recursive Self-Improvement, RSI）的概念發出冷靜的聲音。

RSI 指的是 AI 系統能夠自行迭代升級，最終達到超越人類智慧的通用人工智慧（AGI）水準。這項概念近期在網路上被部分人士渲染為「AI 自己造 AI」的恐怖想像，並與滅世概率的討論掛鉤。然而，多位專家指出，目前絕大多數號稱具備 RSI 能力的模型，實際上遠遠達不到該技術的定義門檻。這些論述多半是為了吸引流量或推廣特定觀點，而非基於真實的技術突破。換句話說，當公眾的目光仍被十年後的末日預言吸引時，技術社群早已忙著應付眼前的真實災難。AI 代理的濫用與低品質自動化生產，正在侵蝕網路世界的基礎穩定性。

微軟的遭遇只是冰山一角，其他大型平台如 GitHub、Google 與 Meta 多半也面臨類似挑戰，只是尚未公開細節。程式碼審查管線堵塞、插件市場充斥垃圾作品、系統漏洞層出不窮——這些才是此刻資訊長與工程副總們真正頭痛的問題。從更宏觀的角度來看，AI 技術的快速普及讓軟體開發的門檻大幅降低，但也讓「寫出能跑的程式碼」與「寫出正確且安全的程式碼」之間的鴻溝愈來愈深。許多原本需要人工仔細審閱的環節，如今被自動化工具跳過或簡化。當 AI 不僅幫人類寫程式，還幫其他 AI 寫程式的時候，錯誤將以指數級增長，除錯工作也將變得幾乎不可能。Rust 的「上位」正是微軟針對此結構性問題開出的藥方之一。

不過，要真正緩解 AI 代理所帶來的亂象，單靠一種程式語言遠遠不夠。業界需要重新建立程式碼品質的自動化檢測機制，同時對 AI 生成的程式碼進行更嚴格的過濾與驗證。平台方也應對插件提交設定更明確的規則，甚至考慮對自動化生成的內容標示來源，以便審查團隊優先處理高風險項目。至於那些關於「AI 滅世」的討論，或許可以暫時放緩腳步。畢竟，比起十年後可能發生的終極風險，眼前的網路癱瘓、服務中斷與資料外洩，才是數位社會每一天都在真實承受的代價。當微軟這樣的巨頭都被 AI 代碼壓得喘不過氣，與其焦慮遙遠的末日預言，不如先關注如何讓當下的網際網路不至於被自己養出的 AI 代理搞到徹底失序。