花1500美元,讓AI“黑”自己的App:GPT-5.5成功率70%,部分模型0分交卷

2026年6月4日 16:05
花1500美元,讓AI“黑”自己的App:GPT-5.5成功率70%,部分模型0分交卷

重點摘要

## 花1500美元請AI當駭客:GPT-5.5成功率高達七成,部分模型直接繳白卷 近期一項針對大型語言模型「自動化滲透測試」能力的研究引發關注。研究團隊設計了一個專門用來評估AI模型尋找軟體漏洞的「Bug靶場」,並邀請多個主流模型嘗試攻擊一款由AI生成的應用程式。結果顯示,只要付出約1,500美元的成本,GPT-5.

站內 AI 整理稿

## 花1500美元請AI當駭客:GPT-5.5成功率高達七成,部分模型直接繳白卷

近期一項針對大型語言模型「自動化滲透測試」能力的研究引發關注。研究團隊設計了一個專門用來評估AI模型尋找軟體漏洞的「Bug靶場」,並邀請多個主流模型嘗試攻擊一款由AI生成的應用程式。結果顯示,只要付出約1,500美元的成本,GPT-5.5就能成功找出並利用其中七成的漏洞;但也有部分模型完全無法完成任務,等於拿到零分成績。這項實驗揭露了當前AI模型在資安攻防上的巨大落差,也讓「用AI對抗AI」的防禦策略再度成為焦點。

所謂的「Bug靶場」,其實是一個刻意埋入多種程式弱點的測試環境,目的是檢驗AI模型能否自主執行「紅隊演練」——也就是模擬駭客行為,嘗試入侵、提權或竊取資料。過去這類工作大多依賴人類資安專家手動進行,成本高且耗時。而這次實驗中,研究團隊讓AI模型扮演攻擊者,目標是攻破一個同樣由AI生成的應用程式;模型需要自行理解程式架構、發現漏洞,並撰寫攻擊腳本。GPT-5.5在多次測試中成功觸發了七成以上的漏洞,而且每次嘗試的成本僅約1,500美元,遠低於聘請人類專家的費用。

相較之下,部分模型表現極為慘淡。像是某些較小型的開源模型,或是未針對推理與工具使用進行優化的版本,在靶場中幾乎完全找不到有效弱點,甚至連基本的掃描指令都無法正確執行,最終以零分收場。這也凸顯出不同AI模型在「程式理解」「邏輯推理」與「自主決策」上的顯著差距。並非所有語言模型都具備當駭客的潛力,只有那些經過大量程式碼訓練、並具備高階規劃能力的模型才能勝任。

這項實驗的背景,與當前軟體開發流程全面導入AI輔助的趨勢息息相關。許多企業開始讓AI自動撰寫程式碼、生成API或建立完整的前後端應用,但這些由AI產出的軟體往往也帶有特殊的安全缺陷。如果攻擊方可以輕易利用另一個AI來掃描並入侵這些系統,那麼開發者就必須重新思考防禦策略。另一方面,這也帶來了正向的可能性:企業可以雇用AI模型定期對自己的產品進行自動化滲透測試,以相對低廉的成本持續找出弱點,甚至在駭客下手前先行修補。

從影響層面來看,這項結果對資安產業與軟體開發者都有深遠意義。首先,資安工程師的工作模式可能發生轉變——未來紅隊演練不再完全依賴人工,而是由人類設定目標後,交由AI模型批次執行。其次,模型提供者需要更謹慎地管控模型的能力邊界,避免被惡意使用者直接拿來發動大規模自動化攻擊。最後,開發AI生成程式的廠商也必須建立更嚴格的測試規範,確保自己的模型不會產出容易被另一套模型攻破的脆弱程式碼。

對於一般讀者與企業技術決策者而言,後續有幾個方向值得關注。第一,各大AI實驗室是否會推出「反制版本」——例如訓練專門偵測攻擊行為的防禦型模型,或是在模型輸出層加上安全濾網。第二,是否有新創公司或開源社群以此為基礎,開發出低成本的AI滲透測試服務,讓中小企業也能負擔得起。第三,監管機構可能開始討論:是否應該限制頂尖模型的自動攻擊能力,或是要求模型供應商對這類功能進行強制評測。無論如何,「AI攻擊AI」不再是科幻情節,而是現在進行式。開發者最好趁早為自己的應用程式安排一場由AI主導的壓力測試,否則未來可能連自己的App怎麼被「黑」進來的都搞不清楚。

Related

相關文章

重估比亞迪,從智駕開始

比亞迪正從銷量龍頭轉向智慧化玩家,全力加速布局智慧駕駛技術,並將「天神之眼」高階智駕系統下放至親民車型,意味著智駕將成為大眾市場標配。若轉型成功,比亞迪的估值邏輯可能從傳統車廠轉向科技公司,甚至帶動本益比重估與售後訂閱服務收入。不過,比亞迪仍面臨軟體整合、成本控管及與競爭對手在智駕體驗上的差距等挑戰。

剛剛

以 AI 之光築夢老區教育 聯想 AI 智慧教室落地福建寧化

這篇消息聚焦「以 AI 之光築夢老區教育 聯想 AI 智慧教室落地福建寧化」。原始導語提到:### 重點整理 聯想集團與中國兒童少年基金會攜手,在福建寧化一所位於中央紅軍長征出發地的學校,捐建了「AI 智慧教室」。這項計畫讓偏鄉學童有機會接觸最前沿的人工智慧課程,翻轉過去資訊設備落後的學習環境,也象徵科技企業對革命老區教育的具體支持。 ### 背景脈絡 寧化縣是福建著名的革命老區,也是中央紅軍長征的重要出發點之一。當地許多學校因地處偏遠,長期面臨教育資源不足、師資老化、資訊設備缺乏等問題。在國家推動「教育數位轉型」與「AI 人才培育」的趨勢下,企業與公益組織的合作成為補足城鄉數位落差的關鍵力量。聯想集團過去已在中國多地推動智慧教育方案,此次選擇在寧化落腳,除了呼應紅色歷史的文化象徵意義,也展現科技扶貧與教育公平的具體實踐。 ### AI 智慧教室的內涵與特色 這間「AI 智慧教室」不僅是硬體設備的更新,更結合了聯想在 AI 教學平台、互動學習軟體與遠距教學系統上的技術。透過智慧白板、AI 助教與機器人教具,學生可以體驗語音辨識、影像辨識、基礎程式設計等課程,讓山區孩子的第一堂 AI 課,真的與一線城市的教學內容同步。這項捐贈也包含教師培訓,確保當地教師能善用科技工具,而非只是擺設。 ### 可能影響:縮短城鄉數位鴻溝 對於寧化當地的學童而言,AI 智慧教室的落地,意味著他們不再只能從課本上認識 AI,而是能親手操作、實際感受科技如何改變生活。這有助於提升學生的學習動機與數位素養,也為未來升學或就業鋪路。從更大層面來看,這類計畫能帶動更多企業關注偏鄉教育,形成「科技+公益」的良性循環,並為其他老區或偏遠地區的數位教育提供可複製的模範。 ### 可能影響:啟發在地教育創新 除了學生直接受惠,教師也能透過智慧教室的數據回饋,掌握學生的學習進度與困難點,進而調整教學策略。過去偏鄉教師往往因資源不足而難以導入創新教學法,現在有了 AI 輔助工具,反而有機會發展出結合當地文化與科技的特色課程,例如用 AI 分析客家方言或紀錄長征歷史,為教育注入在地生命力。 ### 讀者可關注的後續 接下來值得留意的是,聯想是否會在其他革命老區或偏鄉複製此模式,並長期追蹤學生的學習成效。另一方面,中國兒童少年基金會是否會推出配套的獎學金或課後輔導計畫,幫助這些孩子持續接觸 AI 領域。此外,當地政府與教育部門是否會將這間智慧教室作為區域示範點,進一步推廣至周邊學校,也是觀察重點。 ### 結語 AI 智慧教室的落成,不只是硬體捐贈,更是一場教育平權的實踐。當革命老區的孩子也能與城市學生一樣,擁有開啟 AI 世界大門的鑰匙,科技便不再是遙遠的想像。期待這道光不僅照亮寧化,更能點燃更多偏鄉孩子對未來的信心。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

1 小時前

英格蘭考試監管機構警告:智能眼鏡、隱形耳機或助長作弊行為

這篇消息聚焦「英格蘭考試監管機構警告:智能眼鏡、隱形耳機或助長作弊行為」。原始導語提到:智能手機已經讓考試作弊有所增加,而下一波可穿戴設備可能讓問題更加嚴重,並危及英格蘭學校資格考試體系的公信力。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

2 小時前

AI眼鏡的可能性:讓生活場景成為學習場景

AI 眼鏡能將即時資訊疊加在使用者視野中,讓購物、散步等日常場景變成即時學習的機會,實現「所見即所學」的教育模式。此技術呼應杜威「教育即生活」的理念,可能打破學校與生活的界線、降低學習門檻,但也帶來過度依賴、隱私風險與數位落差等隱憂。

6 小時前