英國監管機構警示:醫療 AI 轉錄工具頻繁出錯,正在威脅患者安全
AI資訊AI新閒資訊正文英國監管機構警示:醫療 AI 轉錄工具頻繁出錯,正在威脅患者安全發布於AI新閒資訊時間 :Aug 31, 2026閱讀 :1分鐘據英國衛報報道,英國國家醫療服務體系(NHS)的一家監管機構警告,用於傾聽並轉錄醫患問診的 AI 技術正給患者帶來風險,這類工具可能錯誤識別藥物名稱和疾病名稱。患者權益機構 Healthwatch England 披露了多起案例,說明這項被快速推廣的技術已對患者安全構成實質威脅。把"無脫髓鞘"記成"脫髓鞘"一起案例中,一名女性患者被 AI 記錄工具錯誤總結為患有"脫髓鞘"——一種可能導致多發性硬化症的嚴重神經損傷。
她本人也是 NHS 醫療專業人員,在質疑 MRI 結果後醫院才發現記錄有誤,並更正為本應記錄的"無脫髓鞘";她形容 AI 先給出錯誤診斷、後又說只是拼寫錯誤,是"非常痛苦的經歷"。另一起案例中,AI 把全科醫生開具的藥物與另一種名稱相似的藥物混淆,最終發現錯誤的是患者本人而非醫生。還有一次,AI 生成的總結信遺漏了專科醫生要求患者向全科醫生申請續開偏頭痛處方的內容,這一遺漏可能導致患者拿不到所需藥物。監管缺位與"雙刃劍"Healthwatch 指出,這些錯誤若未被及時發現就會被錄入患者檔案、影響後續治療,機構已接到"患者發現錯誤而專業人員沒有發現"的多起反饋。
更令其擔憂的是,英國藥品和保健產品監管機構(MHRA)決定不將這類工具歸類為醫療器械,意味著英格蘭不會建立覆蓋全境的監管機制來確保安全有效——而當地醫生已在使用的此類工具已達 27 種。倫敦全科醫生 Shier Ziser Dawood 曾遇到 AI 記錄她讓患者"繼續服用百憂解",而她既沒開過也沒討論過該藥,這正是典型的"AI 幻覺";她提醒醫生仍需逐條核對全部記錄,工具並未真正省下時間,而英國全科醫生單次問診時長本就處於全球較短水平。
烏普薩拉大學的 Charlotte Blease 博士坦言"AI 確實會犯錯,而且已經在犯錯",在多名患者在場、病史複雜或患者母語非英語時更易出錯;但她對 1003 名英國全科醫生的調查顯示,超過半數仍認為 AI 生成的記錄比自己動手記錄更準確。相關推薦京東“超腦”3.0大模型亮相,打造物流全流程AI指揮官京東在第十八屆國際交通展發佈“超腦”大模型3.0,系物流行業首個全流程AI指揮工業級應用集成體,在核心技術與供應鏈協同上實現突破,展現強大計算效率,推動大模型從概念走向產業落地。Aug 27, 2026226.7k京東發佈“超腦”大模型3.
0,億級包裹路徑規劃提速至秒級京東在第十八屆國際交通技術與設備展覽會上發佈“超腦”大模型3.0,相比2.0在運作效率、系統韌性和運營成本方面優化,提升物流供應鏈智能化水平。新模型將億級包裹最優路徑規劃從分鐘級壓縮至秒級,實現倉儲到配送精準調度,覆蓋物流全流程,提高履約效率。Aug 26, 2026253.0k快遞員變身AI機器人高薪工程師!京東物流首批學員正式上崗,未來5年豪擲10萬個高新崗位京東物流智能化升級,首批快遞員、倉管員、質檢員在涿州技術認證培訓中心完成系統培訓並考核合格,正式轉型為機器人維修工程師上崗,助力一線員工從體力崗邁向高技術崗。Aug 20, 2026224.
8kAnthropic CEO稱AI抵制”從根本上說是深層的信任危機”AI行業內部就公眾抗拒情緒爆發爭論。投資人Gavin Baker公開質疑Anthropic CEO Amodei對AI風險的警告過於悲觀,助長美國數據中心建設牴觸情緒;Amodei則迴應反駁,否認其前景描繪悲觀。Aug 17, 2026184.5kOpenAI放大招,將向 10 萬名科學家免費開放GPT-5.6 系列!OpenAI啟動ChatGPT學術研究者計劃,初期面向部分高校1萬名科研人員開放,未來將擴至10萬人。入選者可獲使用次數更多、上下文窗口更大的高級ChatGPT,並能邀請4名同事免費使用。
Jul 30, 2026171.4k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章

美國聯邦法官駁回 OpenAI 請求,蘋果無需公佈與 SpaceXAI 和解協議
儘管此前有公佈保密和解協議的先例,但這種情況的前提是其包含與訴訟具體帶決爭議點相關的信息,對於 SpaceXAI 訴 OpenAI 案而言,SpaceXAI 與蘋果的和解協議不屬於這類情形。
VLM幻覺可提前攔截
Computer Science > Computer Vision and Pattern Recognition arXiv:2606.00435 (cs) [Submitted on 29 May 2026 (v1), last revised 16 Sep 2026 (this version, v4)] Title:Detect Before You Leap: Mirage Detection in Vision-Language Models Authors:Md. Shaown Miah, S.

單個分子沒有溫度,單個神經元也沒有智能 | 關於“湧現是什麼”、“智能是什麼”的一些思考
一隻分子有溫度嗎?直覺上似乎有。水是熱的,組成水的分子當然也應該是熱的。但嚴格來說,單個分子只有質量、速度、方向和動能。它會運動,會與其他分子碰撞,卻沒有我們通常所說的“溫度”。

AI 負責創造,人來幹髒活,這事兒能否停一下?
AI 负责天马行空的创意,人类却在为它收拾数据、清洗标注、调试参数——这种“AI 负责创造,人来干脏活”的倒挂分工,正在成为许多从业者的日常。所谓“脏活”,指的是那些低创造性、高重复性的劳动:整理混乱的原始数据、手动修正模型输出的幻觉、把格式错乱的回答重新排版。讽刺的是,AI 被吹捧为解放生产力的工具,结果它把最需要智力的部分留给了自己,把最机械的部分甩给了人。

全國網絡安全標準化技術委員會發布《人工智能安全治理框架 3.0》
網安標委在 2026 國家網絡安全宣傳週開幕式上發佈《人工智能安全治理框架 3.0》,該框架更新了風險分類,優化了治理措施,旨在提升人工智能安全治理能力,保障人工智能造福人類。#人工智能安全治理#

剛剛,阿迪王呼籲為AI緊急降速,馬斯克奧特曼罕見完全支持:遞歸自我進化太危險了
Anthropic 執行長 Dario Amodei 近日公開呼籲各界緊急為人工智慧發展踩煞車,直言「遞歸自我進化」的風險已經大到不容忽視。這項發言意外獲得向來意見分歧的 Tesla 創辦人馬斯克與 OpenAI 執行長奧特曼一致表態支持,三人在 AI 安全議題上形成罕見共識。Amodei 認為,當 AI 系統具備自我改寫與持續升級的能力,人類將可能失去控制權,導致不可逆的災難性後果。