AI 幻覺是什麼？為什麼 AI 會一本正經地說錯話
AI 有時會自信地編出不存在的事實，這叫幻覺。這篇說明幻覺為什麼會發生、哪些情境特別容易出錯，以及平常使用時能降低風險的幾個做法。
簡短回答：AI 幻覺是語言模型產生看似合理、實際上錯誤的內容。OpenAI 的研究指出，主因是模型只學過流暢文字、無法從規律推出冷門事實，加上多數評測獎勵猜測而非承認不確定。提供資料、允許它說不知道並自己查證，能降低風險，但無法完全消除。
本文重點
- 幻覺指的是 AI 產生聽起來合理、但其實錯誤或不存在的內容，而且語氣常常很肯定。
- 原因之一是模型學的是預測下一個字，而不是逐項查證事實；加上許多訓練與評測方式獎勵猜測，而不鼓勵承認不確定。
- 冷門、細節多、需要精確數字或引用來源的問題，特別容易出錯。
- 降低風險的做法是提供資料、允許 AI 說不知道，並自己查證重要內容。
AI 幻覺是什麼？
AI 幻覺（hallucination）指的是語言模型生成了看似合理、實際上不正確或根本不存在的內容。例如引用一篇找不到的論文、編出一個不存在的法條，或把兩位人物的經歷混在一起。最麻煩的地方是：錯誤的答案通常寫得跟正確答案一樣流暢、一樣有自信，光看語氣分辨不出來。
AI 為什麼會產生幻覺？
OpenAI 的研究文章《Why language models hallucinate》指出兩個主要原因。第一，模型在預訓練時學習預測大量文字中的下一個字，資料裡很少明確標示哪些說法是錯的；拼字、括號這類有規律的內容會隨規模變好，但隨機又很少出現的冷門事實，無法靠規律推出，就容易出錯。第二，常見的訓練與評測方式只看答對率，猜對有分、回答「不知道」沒有分，等於鼓勵模型猜。文章也提到，後續訓練並不能完全消除這個問題。
換句話說，這不是 AI 故意說謊，而是它的運作方式讓它在不確定時傾向於給出一個像樣的答案。了解這點，對使用方式就有直接的幫助。
評測方式怎麼讓 AI 更愛猜？
只看答對率的評測，等於考試時空白不給分，猜錯也不扣分，所以猜比承認不知道划算。OpenAI 在文章中用 SimpleQA 舉例：gpt-5-thinking-mini 的答對率為 22%、錯誤率 26%、棄答 52%；o4-mini 的答對率為 24%，但錯誤率高達 75%、棄答只有 1%。猜測只讓答對率多了一點點，錯誤卻大幅增加。OpenAI 因此主張：對自信的錯誤扣更多分，並對適當表達不確定給部分分數。這些數字是 OpenAI 自家的測試結果。
哪些情況的 AI 幻覺風險最高？
| 情境 | 風險 | 為什麼 |
|---|---|---|
| 冷門人物、小眾主題 | 高 | 訓練資料中出現得少，缺少可以依循的規律 |
| 精確數字、日期、價格 | 高 | 一個數字錯了就是錯，而且很難從語氣看出來 |
| 書籍、論文、法條的引用 | 高 | 容易組合出看似真實的標題與出處 |
| 最近發生的事 | 中高 | 模型的知識有截止時間，沒有搜尋功能時無法得知新資訊 |
| 改寫、整理、翻譯你提供的文字 | 較低 | 答案就在你給的內容裡，但仍可能漏掉或曲解細節 |
怎麼降低 AI 幻覺的風險？
把資料貼給它，而不是靠它的記憶
需要根據特定內容回答時，直接提供原文或文件，並要求「只根據這份資料回答」。這也是檢索增強生成（RAG）的基本想法：先找資料，再讓模型根據資料回答。
明確允許它說不知道
在提示詞裡加上「如果資料不足或你不確定，請直接說明，不要猜測」。這能降低它硬湊答案的傾向，但不是保證。
要求它標明依據
請它指出每個結論根據的是哪段內容，這樣你可以快速回頭核對。如果它給了出處，記得實際去打開確認，不要假設連結或書名一定存在。
重要內容自己查證
凡是要拿去做決定、對外發布或涉及金額、健康、法律的內容，都用可信的原始來源再確認一次。做法可參考怎麼查證 AI 的回答。
善用搜尋功能，但仍要看來源
有網路搜尋功能的工具能補足新資訊，但它引用的網頁品質不一，仍要檢視來源是否可靠。
請只根據下面提供的資料回答問題。
如果資料裡沒有答案，或你不確定，請直接說「資料中沒有提到」，不要自行補充或推測。
每個重點後面，請標明是根據哪一段內容。
問題：［你的問題］
資料：［貼上原文］
AI 幻覺可以完全消除嗎？
目前不行。OpenAI 指出，有些問題本來就無法回答，所以準確率不可能達到 100%；單靠加大模型規模或後續訓練也無法完全消除，GPT-5 的幻覺雖明顯減少（尤其在推理時），仍然存在。Anthropic 的文件也說，降低幻覺的技巧能大幅減少、但不能消除，高風險內容仍要人工驗證。
實務上可再加三個做法：長文件先請模型逐字擷取相關原文，再只根據原文作答；請它為每個說法找出原文佐證，找不到的就撤回；有搜尋功能的工具（如 Gemini 的 Google Search grounding）會附上網址引用，但引用的網頁仍要自己判斷是否可靠。
相關文章
下一步建議閱讀怎麼查證 AI 的回答，了解具體的核對流程；也可以看Token 與上下文視窗，理解 AI 為什麼會忘記前面說過的話。
資料來源
常見問題
- AI 幻覺和 AI 說謊一樣嗎？
- 不一樣。說謊是明知道真相卻故意說假話，而幻覺是模型在不確定時產生了錯誤但看似合理的內容，並不是有意欺騙。不過對使用者來說，結果都是會被錯誤資訊誤導，所以一樣需要查證。
- 新一代的模型還會有幻覺嗎？
- 仍然會。各家廠商都在持續降低幻覺的比例，但目前沒有任何模型能保證完全不出錯。使用時仍應保持核對的習慣。
- 怎麼知道 AI 的回答是不是幻覺？
- 光看語氣很難判斷。比較可行的方式是檢查它是否給出可以驗證的依據，再到原始來源核對關鍵的數字、人名和引用。對重要內容，用另一個獨立的來源交叉確認最可靠。
- 跟 AI 說「不知道就說不知道」有用嗎？
- 有幫助。Claude 文件指出，明確允許模型承認不確定，能大幅減少編造的資訊。但這只是降低機率，不是保證，重要內容仍要回到原始來源核對。
- 為什麼 AI 會一本正經地編造答案？
- OpenAI 的研究指出，模型預訓練時只看過流暢文字，冷門事實無法從規律推出；而多數評測只看答對率，猜測比棄答划算，所以模型傾向給出一個像樣的答案，而不是承認不確定。
延伸閱讀
怎麼查證 AI 的回答？避開幻覺的五步檢查法
AI 會流暢地說出錯誤內容。這篇整理五步查證流程：拆出可驗證的主張、找原始來源、交叉比對、檢查引用是否真實，以及哪些內容風險最高。
Token 與上下文視窗是什麼？為什麼 AI 會忘記前面說過的話
Token 是 AI 計算文字的單位，上下文視窗是它一次能看的範圍。這篇用白話說明兩者如何影響費用、長對話與長文件處理。
AI 入門怎麼開始？零基礎的四週學習路線
零基礎學 AI 不需要先懂原理或程式。這是一條四週的 AI 入門路線：選一個工具、練習把需求說清楚、認識 AI 會出錯的地方，再接進日常工作。