英國監管機構警示：醫療 AI 轉錄工具頻繁出錯，威脅患者安全

作者：遠洋 責編：遠洋 評論： 8 月 31 日消息，據英國衛報報道，英國國家醫療服務體系（NHS）的一家監管機構警告稱，用於傾聽並轉錄患者與醫生問診內容的 AI 技術可能給患者帶來風險，因為這類工具可能錯誤識別藥物名稱和疾病名稱。在一起案例中，一名女性患者因為 AI 醫療記錄工具錯誤總結她與醫生的對話而受到嚴重驚嚇。AI 生成的總結稱，她患有“脫髓鞘”，即可能導致多發性硬化症的嚴重神經損傷。這名患者本人也是 NHS 醫療專業人員。她對 AI 工具記錄的 MRI 檢查結果提出質疑後，醫院才發現記錄有誤，並將其更正為本應記錄的“無脫髓鞘”。

“最終這個錯誤得到了糾正，但因為 AI 給出了錯誤診斷，然後又告訴我這只是一個拼寫錯誤，這對我來說是一次非常痛苦的經歷。”這名不願透露姓名的女性說。注意到，英國患者權益機構 Healthwatch England 近日披露了這一案例以及其他 AI 醫療記錄工具出現的錯誤，以說明這種正在 NHS 快速推廣的技術可能對患者安全構成威脅。Healthwatch 表示，如果這些錯誤沒有被及時發現，就可能被錄入患者的醫療檔案，並進一步影響患者接受的治療。另一起案例中，一款 AI 醫療記錄工具將全科醫生開具的藥物與另一種名稱相似的藥物混淆。最終發現這一錯誤的同樣不是醫生，而是患者本人。

還有一次，AI 生成的總結信沒有提及醫院專科醫生曾告訴患者，需要向自己的全科醫生申請續開治療偏頭痛的處方。這一遺漏可能導致患者無法正常獲得所需藥物。Healthwatch 作為 NHS 法定患者權益代表機構表示，該機構已經聽到了“多名患者發現錯誤、而醫療專業人員卻沒有發現這些錯誤”的案例。Healthwatch 指出：“如果患者沒有發現這些錯誤，這些不準確的信息可能會一直留在他們的醫療記錄中。”英國政府針對英格蘭 NHS 制定的 10 年醫療規劃，希望通過 AI 醫療記錄工具“讓醫務人員擺脫目前繁重的文書和行政工作，從而騰出更多時間提供醫療服務並專注於患者”。

AI 醫療記錄工具也是 NHS 計劃進行的一項重大轉型的核心技術之一，旨在推動 NHS 從傳統的模擬化醫療服務轉向數字化服務。Healthwatch 一名發言人表示：“醫療服務從來都不可能做到零錯誤。但我們的調查結果表明，現在迫切需要明確，患者應該如何報告 AI 醫療記錄工具或使用這些工具的醫療專業人員所犯的錯誤，以及如何糾正這些錯誤。”英國患者協會首席執行官 Rachel Power 表示：“患者對這項技術的信任和信心，取決於良好的溝通以及真正意義上的患者合作，而目前這兩方面都存在缺失。

”Healthwatch 還表示，英國藥品和保健產品監管機構（MHRA）決定不將 AI 醫療記錄工具歸類為醫療器械，這一點“令人擔憂”。這意味著英格蘭目前不會建立覆蓋全境的監管機制，以確保這些工具使用安全並且有效。目前，英格蘭的全科醫生和醫院醫生已經在使用 27 種不同的 AI 醫療記錄工具。此前，政府大臣已經被警告，如果 AI 出現醫療錯誤，NHS 以及相關醫務人員可能面臨訴訟。近期，AI 的準確性問題也再次受到關注。英國羅瑟勒姆地區的一些患者向當地 Healthwatch 投訴稱，部分全科診所使用的 AI 前臺接待系統無法正確理解他們濃重的約克郡口音。

倫敦全科醫生 Shier Ziser Dawood 博士去年還曾在一家權威醫學期刊上撰文警告稱，AI 醫療記錄工具對全科醫生來說可能是一把“雙刃劍”。她回憶稱，一款 AI 醫療記錄工具記錄說，她曾告訴一名患者“繼續服用 Prozac（百憂解）”，但實際上，她既沒有給這名患者開過這種藥，也沒有與患者討論過這種藥物。這就是所謂的“AI 幻覺”現象，即 AI 醫療記錄工具在生成記錄時提及了問診過程中根本沒有出現過的內容。Dawood 警告稱，醫生仍然需要檢查 AI 生成的全部問診記錄，以確認其中不存在錯誤，因此這些 AI 工具目前並沒有真正節省醫生的時間。

Dawood 在《英國全科醫學雜誌》撰文指出，NHS 管理層認為 AI 醫療記錄工具將使全科醫生無需再在問診過程中手寫或錄入筆記，因此未來全科醫生可能被要求每天額外接診兩名患者。但與此同時，NHS 全科醫生目前的單次問診時間已經處於全球較短水平。瑞典烏普薩拉大學醫療 AI 應用專家 Charlotte Blease 博士表示：“AI 確實會犯錯，而且已經在犯錯。”她的研究發現，使用環境語音技術記錄問診內容的全科醫生認為，在以下情況下，AI 更容易出現錯誤：問診過程中有不止一名患者或陪同人員；患者病史較為複雜；以及患者的第一語言不是英語。

不過，Blease 也指出：“事實是，沒有 AI 的情況下，醫生同樣會犯錯。而且，AI 介入後，錯誤率當然也有可能更高。”Blease 表示，在她去年對 1003 名英國全科醫生進行的調查中，超過一半的受訪者認為，他們使用環境式 AI 生成的醫療記錄比自己親自記錄的內容更加準確。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，人工智能Stability AI 完成 7600 萬美元 B 輪融資：EA 與三大音樂娛樂企業均參投《人類簡史》作者赫拉利：現在就應抵制賦予 AI 權利入侵 Hugging Face 事件後，OpenAI 放緩模型訓練並加強安全監控OpenAI 前高管：相信 AI 能治癒所有疾病，但光靠大模型遠遠不夠整活網頁 Your AI Slop Bores Me 上線：真人扮演 AI 回答用戶提問美參議員致信 OpenAI、Meta、Anthropic 公司 CEO，要求其暫停 AI 開發