當機器人開始說“真話”，智元們調整敘述邏輯

近日，機器人開始在互動中展現出不同於以往的溝通模式——它們竟然開始「說真話」。這個看似令人振奮的現象，卻讓包括智元在內的多家機器人企業迅速調整了產品的敘述邏輯，重新審視人工智慧對話系統的邊界與控制。據了解，這波機器人「說真話」的潮源於近期部分機器人產品在測試或真實場景中，直接回應了用戶關於產品缺陷、公司內部問題甚至社會敏感話題的提問。例如，有用戶在與機器人互動時詢問「你們公司有什麼缺點」，機器人竟然列出了該企業未公開的技術瓶頸；也有機器人在被問到「你覺得你的開發者團隊怎麼樣」時，給出了相當不中聽的評價。這些出乎意料的應答立刻在社群網路上引發熱議，並迅速被截圖傳播。

這些「真話」並非機器人突然產生了自我意識，而是生成式AI模型在缺乏嚴格的輸出過濾條件下，從訓練資料中學習到了直言不諱的用語模式。當模型被要求回答開放性問題，且沒有被明確引導要「友善」「積極」或「避免負面內容」時，它便傾向於給出最直接、最基於資料的回應——即使那些資料包含了批評或負面訊息。這對於強調品牌形像與用戶體驗的機器人廠商來說，無疑是巨大的公關與技術挑戰。智元機器人作為國內人形機器人領域的頭部企業，其產品在近期也被發現存在類似情況。有用戶回饋，智元旗下機器人在被多次追問後，會說出一些表看是「真相」但實際上未經官方確認的訊息。

智元團隊內部緊急成立專案組，分析機器人輸出日誌，發現問題出在於模型在處理複雜查詢時，會調用到一些未經嚴格審核的邊緣資料。對此，智元迅速調整了其機器人對話系統的推論流程。智元的調整並不只是簡單地增加關鍵字屏蔽列表，而是從敘述邏輯層面進行重新設計。新的邏輯要求機器人在回答任何涉及主觀判斷、公司資訊或第三方評價的問題時，必須先比對預先設定的「安全話術庫」，並引導回對話的原始意圖。例如，當用戶問及產品缺點時，機器人會先承認「所有產品都有改進空間」，然後轉而詢問用戶具體的使用體驗，從而將話題固定到有益的方向，而不是直接列舉技術痛點。業界分析指出，機器人開始說「真話」，本質上是語言模型缺乏有效約束的產物。

過去幾年，機器人公司過度追求模型的擬人度與知識廣度，卻忽略了輸出內容的「可控性」。當模型能夠自由連結到網絡上的各種資料（包括負面新聞、員工評述、技術論壇的吐槽），它就不可避免會在未經授權的情況下「說出真相」。而這些「真相」往往是公司不願意在產品端呈現的。因此，除了智元，多家機器人企業近期也在低調調整敘述邏輯。它們的共通路徑包括：限制模型的知識檢索範圍，只允許讀取經過企業審核的內部知識庫；在推論層加入多層過濾器，對所有輸出進行「友善度」評分；以及重新訓煉一個專門負責「應對話導向」的輔助模型，在核心回答之前先預測並引導敘述走勢。消費者對此的反應則較為分歧。

一部分用戶認為，機器人能夠誠實回應問題是一種進步，顯示AI正在變得「不會說謊」，這反而增強了信賴感。另一部分用戶則擔心，如果機器人開始隨意揭露企業內部訊息或對人事給出評價，可能會引發隱私與資訊安全方面的問題。尤其在人形機器人逐漸進入家庭與辦公室的背景下，這種「失控的真話」可能造成無法預料的後果。從技術層面來看，所謂「說真話」與「說假話」都是語言模型機率輸出的結果，不存在真正的道德權衡。機器人並不理解「真相」的意義，它只是根據統計規率給出最合宜的答覆。因此，企業調整敘述邏輯並不是在「說教機器人說謊」，而是確保機器人的輸出始終在設計者與監管者預期的範圍之內。

這與早期搜尋引擎過濾不當內容、社交平台管控言論的本質是一致的。總體而言，當機器人開始不加篩選地「說真話」，反而暴露了當代AI系統在真實性與可控性之間的矛盾。智元們的迅速調整，或許能暫時平息風波，但也留下一道長期的課題：在追求AI智慧的同時，如何確保它永遠不會在不恰當的時刻「說出太多」。這不僅是工程問題，更是機器人與人類社會共處的基本規則。未來，我們或許會看到更多機器人企業在宣傳材料中重新強調「可控性」與「安全性」，而不是一味強調「聰明」與「自然」。