幻覺Hallucination

為什麼會發生

模型的工作是預測「下一個字最可能是什麼」，不是「下一個字正確與否」。當你問它一個它不知道的問題，它不會停下來，因為停下來不是它的選項之一——它會生成一個統計上最像答案的東西。

這就是關鍵：幻覺不是模型壞掉，而是它正常運作的副產品。它成功地生成了「一段看起來像正確答案的文字」，只是那段文字剛好不是真的。

最常出現的地方

• 具體數字和日期。統計數據、成立年份、版本號、價格。
• 引用來源。論文標題、作者、期刊、法條編號——模型很擅長生成格式完全正確但根本不存在的引用。
• 人名和機構的組合。把 A 公司的產品安到 B 公司頭上，把甲的話安到乙嘴裡。
• 小眾領域的細節。訓練資料裡相關內容越少，模型越容易用「聽起來合理的樣板」填補。
• 程式的 API 和函式名稱。生成出命名慣例完全正確但實際不存在的方法。

降低發生率的實際做法

給它資料，而不是要它回憶。 把文件貼進去問「根據這份資料，X 是什麼」，比直接問「X 是什麼」可靠得多。這也是 RAG 的基本原理。

讓它能查。 開啟網頁搜尋或連上資料庫，答案來自即時查詢而非訓練記憶。

要求附出處，然後真的去點。 要求附連結會讓模型更傾向於引用真實內容，但它仍然可能生成假連結——所以務必實際點開。

問「你不確定的部分是哪些」。 明確給它「可以不知道」的空間，通常會得到比較誠實的回應。

交叉比對。 重要的事實換個模型再問一次，或直接查原始出處。

該怎麼看待這件事

實務上比較健康的心態，是把 LLM 當成一個知識廣博但記性不可靠、而且從不承認自己忘記的同事。它給的方向、架構、思路通常很有價值，但凡是它給的具體事實，都需要你自己確認過才能拿去用。