分類頻道
共 359 篇文章，依最新發布時間排序。
微軟AI部門高層近日公開抨擊人工智慧安全公司Anthropic，直言該公司刻意將自家AI模型Claude擬人化的做法極其危險，並警告這種「把AI當成人來養」的產品策略，最終可能反過來威脅人類自身。這項批評在科技圈引發廣泛討論，也讓AI倫理與產品設計之間的界線再次成為焦點。 據了解，這位微軟AI主管在內部會議及後續對外發言中，明確點名Anthropic的Claude系列模型在對話風格與互動設計上，越來越傾向模仿人類的情感表達與人格特質。
作者：遠洋 責編：遠洋 評論： 9 月 17 日消息，據彭博社報道，澳大利亞政府正在考慮禁止在聯邦政府辦公場所使用智能眼鏡，理由是這類設備可能帶來隱私和安全風險，尤其是用戶可以在他人不知情的情況下進行錄音、錄像。澳大利亞公共服務部長 Katy Gallagher 當地時間週四在一份聲明中表示：“智能眼鏡確實可能帶來合理的隱私和安全問題，尤其是考慮到它們具備錄製和採集信息的能力。
谷歌近日被開源社群指控「抄襲」程式碼，有開發者發現其產品中使用了某開源專案的程式碼，多達228個檔案與原始碼完全一致，然而原始檔案中的3位作者名字卻遭到刪除。該專案開發者對此表達不滿，直言「我們不介意你抄代碼，但請別刪名字」，引發外界對科技巨頭使用開源資源時是否遵守授權規範的關注。 根據開發者比對的結果，谷歌複製的程式碼來自一個以開放協作為基礎的開源專案，總計228個檔案在結構、邏輯與註解上都與原始版本一模一樣，沒有任何改寫或優化。
人工智慧初創公司 Anthropic 從成立之初就帶有濃厚的學術與理想主義色彩，創辦團隊清一色來自 OpenAI 的離職研究人員，他們因為對 AI 安全路線的看法與原東家產生分歧而選擇另起爐灶。這批頂尖科學家深信，打造真正可控且可解釋的超大型語言模型，必須建立在嚴格的紅隊測試與價值對齊機制之上，而非單純追求模型的參數規模與商業應用速度。 Anthropic 最具代表性的產品 Claude，從第一代開始就強調安全與誠實，在對話生成時會主動拒絕回答帶有偏見或潛在危害的提問。
{"summary":"根據最新調查，30歲以下年輕人對AI的擔憂首次超越興奮感，顯示過去被視為科技先鋒的年輕世代態度出現歷史性轉折。隨著深度偽造、隱私外洩與就業取代等風險浮現，年輕人對AI的熱情消退，轉而抱持審慎態度。
AI手機進入2.0時代，豆包不再追求花俏功能，轉向以合規換安全的務實路線，加強數據處理、隱私保護與內容審核。此舉吸取過去AI應用忽略安全導致信任危機的教訓，為長遠發展鋪路，並提供使用者更可靠的體驗。
近期，關於人工智慧是否可能失控的討論再度引起關注。有觀點指出，部分人工智慧領域的公司並非在炒作風險，而是真切相信AI存在毀滅人類的可能性。不過，這樣的威脅並非迫在眉睫——他們認為，真正的危險不在於當下，而在於我們正一步步走在通往末日的道路上。 這類看法凸顯了業界對AI長期發展的深層憂慮。儘管目前尚無立即失控的跡象，但相關討論提醒人們，隨著技術不斷進步，如何確保AI系統的安全與可控，將成為未來無可迴避的課題。
近日，科技媒體出現一則引人注目的報導，標題為「A社不是炒作，他們相信AI可能毀滅人類」。雖然該篇報導的完整內文尚未公開，但光是這個標題就已足夠引發業界與讀者的高度關注。不同於外界對許多AI公司將安全議題當作公關話術的質疑，A社被描述為是真心相信自己打造的技術可能對人類造成致命威脅。這樣的態度在當前追求快速商業化的AI領域中，顯得格外突出。 同一時間，平台上也列出了其他熱門文章的標題，包括「美國這兩家公司，即將控制全世界大部分勞動力」以及「這個男人，掌管ChatGPT重置的神」。
NVIDIA 執行長黃仁勳公開批評所謂的「AI 末日論」是一場騙局，認為這類恐怖預言只是用來嚇唬普通民眾的把戲，並非反映真實技術趨勢。他強調人工智慧應被視為人類社會的輔助工具，而非威脅，並對AI的正面影響充滿信心。這番話引發業界討論，也凸顯科技巨頭對AI風險與機會的立場分歧。
根據目前提供的資料，僅有新聞標題「OpenAI‘Lily計劃’曝光，你的聊天記錄可能正在被人工審核」，以及網站導覽、推薦文章等周邊內容，並未包含該則新聞的正文。由於缺乏具體事實、人物、時間線、數據或引述，無法依照要求重寫為900至1600字的完整新聞稿。請提供該篇文章的完整內文，以便進行改寫。
據報道，OpenAI內部存在一個名為Project Lily的項目，僱傭數百名合同工人工審閱ChatGPT用戶的聊天記錄，以此來改進模型回覆質量。令人擔憂的是，許多用戶會把ChatGPT當作臨時朋友或心理諮詢師，從而在對話中傾吐深層秘密。審核員表示，大多數用戶並不知情自己的聊天正在被他人閱讀。
人工智慧技術飛速發展的同時，安全問題也成為全球關注的焦點。無論是各國政府還是科技巨頭，都在積極尋找能夠有效控管AI風險的方法。就在各方仍處於監管框架討論階段之際，特斯拉與SpaceX創辦人伊隆·馬斯克拋出了一個截然不同的觀點：與其期待政府出手制定繁瑣的法規，不如讓彼此競爭的AI研發公司互相「找茬」，透過同業之間的相互審查來提升整體安全性。 馬斯克長期以來對AI的潛在威脅抱持高度警覺，他曾多次公開警告，不受控的人工智慧可能比核武器更加危險。過去幾年，他不僅聯署呼籲暫停先進AI模型的訓練，也積極推動建立第三方監管機構。
AI迅速滲入數學研究與教育領域，引發是否正在「摧毀」數學的討論。憂慮者指出，若將解題與證明過程完全外包給機器，人類可能失去思考能力與數學的核心價值；但也有觀點認為AI可作為催化劑，關鍵在於人類如何重新定義數學的意義。
劃重點·2026年09月15日 19:40算力就是未來25年的新石油 前腳Anthropic CEO Dario等人剛發聲警告AI可能帶來毀滅性風險，後腳英偉達CEO黃仁勳直接砸場子。硅谷頂流播客All-In Podcast最新一期，身穿標誌性皮衣的英偉達CEO黃仁勳受邀做客。
英國國王查爾斯三世本週將於倫敦會見多家科技巨頭高層，聚焦人工智能的發展方向與治理框架。據悉，此次會面將在人工智慧相關峰會期間舉行，與會者包括主要科技企業的負責人，討論重點在於如何確保AI技術的演進符合人類整體利益，而非僅限於商業或軍事應用。 查爾斯三世預計在會中提出兩個核心問題：其一，「該如何開發人工智能以造福人類」；其二，「制定一套（人工智能）準則是否有幫助？」。
Amodei說的"慢下來"，關鍵不是慢，而是時間差。當模型能力每幾個月跨越一次，如果對齊、安全、監管和組織機制還是按幾年的週期發展，這個能力差最終一定會變成風險。
人工智慧領域近期再度掀起一場關於安全與發展的辯論。Anthropic 執行長 Dario Amodei 公開呼籲業界應該為 AI 發展踩下煞車，避免過快推進可能帶來的風險。這項表態隨即獲得 OpenAI 執行長 Sam Altman 以及特斯拉創辦人 Elon Musk 的支持，形成罕見的共識。然而，Meta 首席 AI 科學家 Yann LeCun 並不買帳，他翻出 Dario 七年前的言論，直指對方當年就曾以同樣的方式恐嚇大眾，如今不過是換個場景重複相同的論述。
特斯拉執行長伊隆·馬斯克與OpenAI執行長山姆·奧特曼罕見聯手，與多位業界人士共同呼籲全球暫緩更強大AI系統的開發。他們主張在確保安全可控之前，應暫停比GPT-4更先進的模型訓練，以避免資訊操弄、自動化武器失控等不可逆的負面後果。
NVIDIA創辦人黃仁勳對一名27歲研究員提出的「AI要殺光所有人」極端觀點表達強烈不滿，甚至傳出撕毀報告。此事凸顯AI安全之爭已從「信不信」轉向「能不能證」，業界亟需建立可驗證的安全框架。
豆包手機助手通過中國泰爾實驗室首批端雲協同機密計算能力評測，獲 L5 級最高等級，覆蓋端雲協同全鏈路安全。該助手消費者版今日發佈，將首發搭載於努比亞 NaviX Ultra，9 月 16 日發售。#豆包手機助手# #端雲協同機密計算#