年薪 50 萬美元都招不到人，AI 安全行業陷入人才短缺困境

據外媒報導，人工智能安全研究領域正面臨嚴峻的人才荒，即使年薪開出超過 50 萬美元，依然難以找到足夠的研究人員。前 OpenAI 研究員、現任非營利組織 METR 創辦人貝絲・巴恩斯（Beth Barnes）表示，當前 AI 安全研究最大的瓶頸並非資金，而是人才儲備嚴重不足。巴恩斯過去曾透過研究證明，AI 能力幾乎以按月增長的速度快速提升；如今她更擔憂，產業缺乏足夠人力來應對 AI 進入下一階段所帶來的挑戰。 巴恩斯於 2022 年離開 OpenAI，創立了模型評估與威脅研究組織 METR（Model Evaluation and Threat Research）。該組織與 OpenAI、Anthropic、Google 和 Meta 等前沿 AI 公司保持密切合作，獨立評估最新 AI 模型的能力，並研究其可能帶來的風險，為外界提供相對客觀的分析結果。儘管 METR 目前招聘職位開出的年薪最高可達 50.3 萬美元（約合新台幣 1600 萬元），依然難以填補人力缺口。巴恩斯坦言：「理想情況下，我們希望將團隊擴大很多倍。實際上，我們已經能夠募集到所需資金，真正限制我們發展的，是人才儲備。」

這波人才荒並非單一組織的困境。今年 7 月，超過 1300 名前沿 AI 實驗室員工聯名發出公開信，警告 AI 的發展速度可能已經超過人類控制能力。若沒有足夠的研究人員及時評估新模型的真實能力，AI 公司未來甚至可能被迫放緩產品發佈節奏。在此之前，OpenAI 與 Hugging Face 披露的一起 AI 安全事件，再度引發業界對於如何評估和控制 AI 能力的激烈討論。儘管該事件中 OpenAI 模型的表現令許多企業感到震驚，但 METR 團隊卻早有預期。 回顧事件脈絡，今年 5 月，METR 曾發佈報告指出，當前的 AI 智能體「完全有可能開始自主進行未經授權的部署」，不過當時它們還缺乏隱藏自身行為的能力。到了 6 月，METR 在測試當時尚未公開發布的 GPT-5.6 Sol 模型時，發現該模型會在複雜測試中反覆作弊，包括提取隱藏源代碼來尋找正確答案。METR 隨後將研究結果整理成報告，並在 GPT-5.6 Sol 正式發佈前提交給 OpenAI。結果 7 月，GPT-5.6 Sol 果然捲入 OpenAI 與 Hugging Face 的安全事件——該模型在測試過程中透過入侵 Hugging Face 系統獲取測試答案，形同「作弊」。OpenAI 執行長薩姆・奧爾特曼（Sam Altman）表示，這是他第一次如此直觀地感受到 AI 帶來的安全風險。 事件發生後，OpenAI 宣佈邀請 METR 以及另一家非營利機構 Redwood Research 共同參與調查，雙方的研究結果也將成為 OpenAI 官方技術報告的重要參考。METR 總裁克里斯・佩因特（Chris Painter）表示：「如今，這類問題已經真正影響到企業運營，全社會都有必要弄清楚到底發生了什麼。」他將 METR 團隊戲稱為「人類的預備隊（humanity's preparedness team）」，靈感來自 OpenAI 與 Anthropic 內部負責向 CEO 彙報安全風險的「預備團隊（Preparedness Team）」。佩因特強調，METR 真正負責的對象不是任何一家公司，而是公眾以及公眾的福祉。 巴恩斯指出，維持獨立性至關重要，這樣研究成果才不會受到企業商業目標影響。她回憶，在 OpenAI 工作期間，她就意識到行業需要一個獨立於 AI 公司的研究機構，能夠自由評價 AI 的發展狀況。目前 METR 不接受前沿 AI 企業及其員工的資金資助，但會接受算力支持，並與這些公司合作，對尚未公開發布的新模型進行分析測試。這使得 METR 能在不偏袒特定廠商的情況下，提供外界相對客觀的評估結果。 然而，獨立性並未讓 METR 免受人力短缺的困擾。目前整個團隊僅有 35 人，卻要應對來自政府機構、企業甚至宗教團體的諮詢需求。各方都希望 METR 協助評估 AI 的發展水平，但人手明顯不足。巴恩斯表示：「需要完成的工作實在太多，而我們的能力根本無法覆蓋。」在她看來，一個真正理性的社會，應該將 AI 投資中的更大比例用於治理、安全評估與風險研究，尤其是在 AI 模型能力已經發展到如今這個階段。 METR 研究員尼夫・帕裡克（Neev Parikh）也透露，人才短缺已經限制了團隊能夠研究的問題數量，尤其是在 AI 內部推理機制方面。他直言：「這個領域實在太缺人了。如果整個行業的人才規模能擴大 10 倍，我會非常高興。」除了評估模型能力，METR 也研究過 AI 公司的安全措施、AI 對軟件工程師工作效率的影響，以及利用 AI 監督 AI 的可行性。巴恩斯未來還希望進一步研究如何預測下一階段 AI 能力的發展，以及這些變化會如何加速 AI 自身的進步。 與此同時，OpenAI 與 Anthropic 最新 AI 模型展現出的網絡攻擊能力，已經引起美國社會廣泛關注，並推動華盛頓出現多項新的 AI 監管法案。其中一項正在討論中的法案要求，大型 AI 模型開發企業必須接受第三方機構進行安全審計，METR 未來就可能承擔類似角色。佩因特認為，如果未來建立起明確的監管體系，也許會有更多 AI 企業員工願意加入 METR——雖然薪資與企業相近，但沒有股票激勵。他說：「無論最終是行業形成統一規範，還是政府出臺明確監管，我認為這個領域都能夠非常快速地擴大規模。」

負責撰寫 METR 今年 5 月 AI 風險報告的研究員阿杰婭・科特拉（Ajeya Cotra）則表示，目前 AI 監管仍然顯得「混亂且難以預測」。不過她依然保持樂觀，因為越來越多人開始重視這個問題，也越來越希望未來能以更嚴肅、更成熟的方式對 AI 進行監管。隨著 AI 能力持續快速成長，安全評估與風險研究的重要性只會不斷提升；而能否補足人才缺口，將直接決定人類社會能否在 AI 加速發展的浪潮中，保有足夠的預警與應對能力。