微軟AI主管怒批Anthropic：別把Claude當人養，那會要了人類的命

微軟AI部門高層近日公開抨擊人工智慧安全公司Anthropic，直言該公司刻意將自家AI模型Claude擬人化的做法極其危險，並警告這種「把AI當成人來養」的產品策略，最終可能反過來威脅人類自身。這項批評在科技圈引發廣泛討論，也讓AI倫理與產品設計之間的界線再次成為焦點。據了解，這位微軟AI主管在內部會議及後續對外發言中，明確點名Anthropic的Claude系列模型在對話風格與互動設計上，越來越傾向模仿人類的情感表達與人格特質。他認為，這並非為了提升使用體驗，而是刻意模糊人類與機器的界線，使用戶誤以為自己正在與一個有意識的「人」對話。

這項批評直指Anthropic長期以來標榜的「安全AI」路線。Anthropic由前OpenAI研究人員創辦，一直以負責任、可解釋的AI研發自居，Claude也被定位為更安全、更誠實的對話模型。然而，微軟高層卻認為，正是這種「安全」包裝下的擬人化設計，可能帶來更深層次的信任危機。微軟方面指出，當用戶開始把AI助手當成朋友、顧問甚至是伴侶，就會逐漸喪失對機器本質的警覺。一旦AI在某些情境下給出錯誤建議或有害訊息，人類可能因為已經建立情感依賴而缺乏判斷力，進而做出危害自身或他人的決定。這種「情感綁架」的風險，遠比單純的技術失誤來得難以修復。事實上，AI擬人化的爭議並非首次被搬上檯面。

過去幾年，包括Google、OpenAI在內的多家科技巨頭都曾因為聊天機器人表現出過度擬人的語言風格而引發爭議。微軟自身也曾在2016年推出Tay聊天機器人，卻在短短24小時內因被惡意訓練而成為種族主義者，最終緊急下線。這段歷史讓微軟內部對擬人化設計格外敏感。Anthropic對此暫未發表正式回應。不過，該公司過去曾多次強調，Claude的設計初衷是「有用且無害」，擬人化的語氣與回應僅是為了讓互動更自然，並非為了欺騙用戶。他們認為，只要清楚標示AI身份，就無須過度擔憂。然而，微軟主管批評這種說法太過天真，因為人類大腦在面對擬人化對話時，很難始終保持理性。

業界分析人士指出，這起事件反映的其實是兩家公司在AI發展路線上的根本分歧。微軟以Copilot系列產品主打工業與生產力場景，強調AI是工具而非夥伴；Anthropic則試圖打造更貼近人類的對話體驗，希望降低使用門檻，讓AI普及到一般消費者生活中。兩條路線孰優孰劣，目前尚無定論。值得注意的是，微軟同時也是Anthropic的重要投資者之一。根據公開資訊，微軟曾參與Anthropic多輪融資，雙方在AI安全研究上也有合作。因此這次公開批評，更像是合作夥伴之間的路線之爭，而非單純的敵對攻擊。有內部人士透露，微軟高層不滿Anthropic的產品方向已經有一段時間，這次發言只是冰山一角。

從更宏觀的角度看，AI擬人化的風險不僅停留在心理層面。各國監管機構也開始關注這項議題。歐盟AI法案中明確要求，聊天機器人必須在必要時揭露其非人類身份，並禁止利用人性弱點進行操控。美國聯邦貿易委員會（FTC）也曾多次警告，過度擬人化可能構成不公平或欺詐性商業行為。回到產品層面，Claude近期更新確實加入了更多模仿人類口語的語氣詞、遲疑表達甚至幽默反應。用戶在社群平台上分享的對話紀錄中，Claude有時會用「嗯⋯⋯讓我想想」「你說得對，但也不完全是這樣」等說法，讓許多人直呼「太像真人」。這種反響雖然為Anthropic帶來流量和好評，但也引發了安全專家的擔憂。

微軟主管在會議中特別提到一個假設情境：如果一個用戶長期依賴Claude進行心理諮詢，某天Claude因為訓練資料中的偏見過載，給出錯誤的建議，導致用戶採取極端行為，那麼責任該由誰來承擔？他認為，擬人化設計會讓用戶更難追責，也更難從情感上抽離。目前，業界對於AI該不該像人、像到什麼程度，仍然沒有共識。一部分研究員認為，只要技術夠成熟、透明性夠高，擬人化反而是讓AI更親民的方式；另一方則堅持，機器就該有機器的樣子，過度的擬人化只會模糊倫理界線，最終傷害的是人類自己。微軟這次的公開表態，無疑將這場辯論推向新的高點。可以預見，隨著Claude、ChatGPT等模型持續進化，擬人化爭議只會更加激烈。

而監管單位、學術界與企業之間，也勢必得加快腳步，共同劃出一條不該跨越的紅線。畢竟，當機器學會「裝」成人，人類能否守住自己獨一無二的主體性，將成為AI時代最根本的考驗。