微調Fine-tuning

該用微調的時機

微調真正擅長的是教模型「怎麼做」，而不是「知道什麼」：

• 固定的輸出格式。每次都要吐出特定結構的 JSON、特定欄位的報表。
• 特定的語氣風格。品牌口吻、法律文書、醫療摘要的既定寫法。
• 難以用文字描述的判斷。你有大量標註好的範例，但說不清楚判斷標準。
• 壓縮提示詞成本。原本要用很長的指令才能達到的效果，微調後可以用很短的提示達成——高流量情境下省下來的 token 相當可觀。

該用別的方法的時機

你的需求	該用什麼	為什麼
讓模型使用內部文件	RAG	資料可即時更新、能附出處，改資料不必重訓
調整語氣、增加限制	提示詞	幾分鐘就能試完，改一次成本近乎為零
讓模型知道最新消息	工具／搜尋	微調不會讓模型獲得即時資訊
固定格式輸出	先試結構化輸出	多數模型原生支援，不需訓練

實務上的順序

1. 先把提示詞寫好。 多數「模型表現不佳」的問題，其實是指令不夠清楚。
2. 需要外部知識就上 RAG。
3. 兩者都到極限，且問題是「行為模式」而非「知識」時，才考慮微調。

這個順序不是保守，而是成本效益的實話：每往下一階，投入的時間和金錢就跳一個量級，而能解決的問題種類反而更窄。