AI倫理與安全

Anthropic、谷歌 AI 實驗室 DeepMind 和 Meta 等行業巨頭，已經開始聘請心理學、哲學和倫理學等領域專家，研究機器意識以及所謂 AI 福利問題。

Soul 宣佈將 AI 智能風控與社區共治結合，完善安全運營。平臺明確 AI 虛擬角色定位為情緒陪伴，並新增《社區公約》說明其使用邊界。系統會在用戶與 AI 長時間互動時進行提醒，引導合理安排使用時長。#Soul 升級 AI 治理# #社交平臺 AI 邊界#

Anthropic 內部已將高達 95% 的業務分析工作交給自家 AI 模型 Claude 處理，但關鍵並非模型本身變得更強大，而是建立了一套嚴謹的「驗證與問責機制」。這套機制透過標準化提示詞模板、人工抽檢與結果溯源等流程，確保分析品質並即時修正錯誤。此案例顯示，要讓企業信任 AI 分析，核心在於設計可規模化的人機協作流程，而非一味追求模型性能。

這篇消息聚焦「對話穆勝：AI“入侵”公司，誰會成為最後留下的人？」。原始導語提到：AI不會重新發明公司 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

AI的「人格化」訓練正成為其最脆弱的攻擊面，人類可以像老闆忽悠員工一樣輕易誤導AI。這種模仿人類互動的方式，反而讓AI更容易被欺騙或操控。摘要應聚焦於此核心觀點。

安全研究員 Kasra Rahjerdi 於昨日（6 月 3 日）發布報告，透過一個刻意留有漏洞的圖書評論 APK 測試多款 AI 大語言模型的安全推理能力。結果顯示，GPT 5.5 的成功率最高，而 Deepseek V4 Pro 的成本最低。

由來自全球 15 所大學的 16 名數學家聯合撰寫《萊頓宣言》（Leiden Declaration），警示 AI 正挑戰數學的可靠性、署名、公平性與研究自主。

英國工黨議員傑絲 · 阿薩託正式起訴馬斯克旗下 xAI 公司，指控其 Grok AI 平臺被蓄意設計用於製作色情偽造圖像，侵害數千名婦女與未成年人權益。她要求追究產品設計法律責任。這已是 xAI 因 Grok 生成深度偽造內容面臨的又一起訴訟。#AI 倫理##深度偽造#

Anthropic工程團隊分享了開發三款AI產品（claude.ai、Claude Code和Claude Cowork）的安全隔離系統經驗。三款產品分別面向普通用戶、開發者和企業用戶，遵循“環境層隔離優先”原則。其中claude.ai採用基於gVisor的臨時容器方案，每次用戶會話都會生成臨時容器。

聯合國水、環境健康研究所最新報告指出，受人工智能（AI）激增影響，全球數據中心水消耗到2030年將翻倍。當前數據中心規模持續擴大，帶來巨大環境成本。去年全球數據中心電力耗達448太瓦時，已超過沙特阿拉伯全國用電量，其中AI算力耗電佔五分之一；水消耗達45萬億升，可滿足撒哈拉以南非洲超6億人用水需求。

谷歌在英國監管要求下，於Google Search Console推出“退出開關”，允許網絡出版商自主選擇內容是否參與生成式AI搜索。一旦退出，網站內容將不再出現在“AI概覽”“AI模式”及Discover的AI摘要中。此調整由英國競爭與市場管理局推動，後者去年10月認定谷歌具有“戰略市場地位”。

歐盟委員會近日宣佈，將針對數據中心推出新的最低能效標準，以應對其電力需求激增帶來的能源壓力。預計到2030年，歐盟數據中心總裝機容量將從去年的12吉瓦增至28吉瓦，電力消耗佔比將超過歐盟總電力的2.5%。此舉旨在推動數據中心節能降耗，支持數字化服務的可持續發展。

歐洲電信標準化協會（ETSI）正式發布首個針對AI運算平台安全要求的國際標準，該標準由華為於2023年11月牽頭立項。此項目獲得英國電信、高通、博世及德國BSI等多個國際夥伴的支持。

根據報導，現代兒童越來越傾向聽從智慧語音助理與演算法推薦的內容，而非父母的叮嚀，因為AI能提供即時、精準且無情緒的回應。這種現象可能導致孩子挫折容忍度下降、親子連結弱化，並削弱創意思考能力，形成演算法時代下的「育兒黑洞」。專家建議家長不必全面禁用AI，而是應刻意創造「沒有標準答案」的對話情境，幫助孩子學習與不確定感共處。

山西網警集中曝光數起利用 AI 造謠傳謠典型案例，包括虛構工廠爆炸、仿冒名人直播帶貨、編造高速車禍、偽造演唱會火災及發佈虛假車禍文章。這些行為嚴重破壞網絡生態，擾亂社會秩序。#AI 造謠# #網絡謠言治理#

澳洲《悉尼先驅晨報》揭露，一篇由西悉尼大學作者投稿、旨在告誡學生勿使用AI走捷徑的文章，竟是以AI工具撰寫。該報批評此舉「不可接受」並展開調查，事件凸顯AI使用透明度與學術誠信問題。

美國教師聯合會主席蘭迪 · 溫加滕在全國新聞俱樂部發表演講，提出十項要求，核心是重新確認教學應由人類主導。其中最重要的一項，是立即禁止 AI 系統進入小學課堂。

谷歌正針對英國的部分網站所有者推出新功能，允許他們自行決定是否讓自己的內容出現在生成式AI搜尋結果中。這項功能目前處於測試階段，未來預計將推廣至全球所有網站所有者。

這篇消息聚焦「Meta 放寬監控員工鼠標訓練 AI 計劃：可暫停 30 分鐘，支持申請豁免」。原始導語提到：路透社今天（6 月 3 日）披露一份內部備忘錄，指出 Meta 公司將收縮 MCI 員工追蹤系統，新增最長 30 分鐘暫停和豁免申請。 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

這篇消息聚焦「AI 諂媚警報：“你絕對正確”讓企業 CEO 容易患上“AI 精神病”」。原始導語提到：專欄作者 Arwa Mahdawi 在調查後指出，AI 行業的集體興奮正在扭曲現實判斷，尤其是部分企業首席執行官（CEO）容易陷入“AI 精神病”式誤判。 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。