微調（Fine-tuning）是在預訓練模型上針對特定任務做額外訓練的技術，目的是讓模型學會特定領域的語氣、邏輯或知識，同時不必從零開始訓練。這篇整理微調的核心概念、什麼時候該選微調而不是 RAG，以及實際準備訓練資料時常遇到的問題。參考資料為論文《Ultimate Guide to Fine-Tuning LLMs》（論文原文（arXiv:2408.13296））。
微調（Fine-tuning）是什麼？
微調是在已經於大規模資料上訓練好的模型（例如 GPT 系列）基礎上，用一份較小、與特定任務相關的資料集繼續訓練，讓模型適應特定領域或行為模式。
微調有幾個關鍵特性：
- 基於預訓練模型：直接沿用模型已經學到的通用語言能力，不用重新打地基。
- 資料需求較低：因為底層知識已經有了，微調通常只需要少量標記資料就能看到效果，比從頭訓練省事得多。
- 本質是遷移學習：把預訓練階段學到的模式和特徵遷移到新任務上。
- 應用範圍廣：文本分類、情感分析、問答系統都是常見場景。
微調 LLM 為什麼重要？
微調重要的原因主要有三個：省資源、省資料、還能同時兼顧通用性與專業性。
遷移學習降低訓練成本。 預訓練模型已經學會的語法和語義知識可以直接拿來用，做分類或翻譯這類任務時只需要微調而不是從零訓練，計算資源和時間都省下一大截。
資料需求大幅減少。 因為底層模型已經有通用語言特徵，微調只需要一份規模較小、跟任務相關的標記資料集，這在醫療診斷這類標記成本高的領域特別有價值。
同時保留通用性與專業性。 微調後的模型能針對法律、醫學、金融這些專業內容做出更準確的回應，又不會完全丟掉原本的通用理解能力。
微調還是 RAG，該怎麼選？
這是實務上最常被問的問題。答案取決於五個因素：資料是否需要即時更新、能不能接受幻覺風險、有沒有足夠的標記資料、需不需要模型輸出特定語氣或格式,以及要不要能追溯回答依據。
| 因素 | RAG 的優勢 | 微調的優勢 |
|---|---|---|
| 外部數據訪問需求 | 動態檢索外部資料，適合即時資訊 | 不適合 |
| 抑制幻覺與準確性 | 依賴實際檢索資料，較能抑制幻覺 | 可能生成錯誤資訊 |
| 訓練資料可用性 | 不依賴標記資料，資料稀缺時表現穩健 | 需要大量標記資料才能達到高性能 |
| 資料更新頻率 | 適應高頻率資料變化 | 不適合，模型知識是靜態的 |
| 模型透明度與可解釋性 | 提供檢索依據，決策過程透明 | 回答依據較難追溯 |
| 整合特定行為與風格 | 不擅長 | 非常適合 |
簡單來說：需要查最新資訊、要求答案可追溯來源的場景，RAG 比較合適；需要模型輸出一致語氣、遵循固定格式或整合深度領域知識的場景，微調比較合適。兩者也不是互斥的，實務上常常會合併使用。
微調適合用在哪些場景？
微調的典型用途分兩類：定制化行為，以及特定知識領域。
定制化行為方面，像是客製化聊天機器人（需要語言風格貼合品牌調性），或是扮演高階主管助理角色、需要輸出高層次專業回應的 AI 助手。
特定知識領域方面，像是根據臨床數據回答病患問題的醫學問答助手，或是負責解釋合同條款、生成法律文件的法律助理。這類場景需要模型內化特定領域的用語和邏輯，而不只是檢索片段資訊拼湊答案。
微調資料準備會遇到哪些挑戰？
準備微調用的資料集,最常遇到的問題集中在七個面向：領域相關性不足、資料多樣性不夠、資料規模不足、資料本身有噪音、標註不一致、稀有案例被忽略,以及倫理與隱私風險。
| 挑戰 | 影響 | 應對策略 |
|---|---|---|
| 領域相關性 | 不相關資料會導致模型泛化差 | 只用領域相關資料，建立篩選機制 |
| 資料多樣性 | 偏倚資料影響未充分表示場景的表現 | 用回譯、對抗樣本等技術擴展多樣性 |
| 資料規模 | 大型資料集處理成本高 | 優化存儲與處理管道，平衡質量與數量 |
| 資料清理與預處理 | 噪聲和錯誤降低輸入質量 | 用 pandas 等工具自動化校驗，移除空值與異常值 |
| 資料標註 | 標註不一致導致預測不穩定 | 制定標註指南，搭配 Prodigy、Snorkel 等工具做人機協作 |
| 稀有案例 | 模型無法泛化到少見場景 | 過採樣或合成資料，對稀有類別提高損失權重 |
| 道德考量 | 偏見或有害內容可能產生不當輸出 | 資料處理前檢查並移除敏感內容，遵守 GDPR 等隱私規範 |
其中資料規模是最容易被低估的一項——一般來說微調至少需要 1000 條樣本才能看到穩定效果，複雜任務通常需要更多。存儲上建議用 .jsonl 這類格式,配合批次處理來控制成本。
資料品質、多樣性和代表性,三者缺一不可。資料能涵蓋的場景越廣，微調出來的模型泛化能力和穩健性就越好。
常見問題
微調需要多少資料才夠？
一般經驗法則是至少 1000 條相關樣本，複雜任務或要求高精確度的場景通常需要更多，並且資料品質比單純堆數量更重要。
微調和 RAG 可以一起用嗎？
可以。常見做法是先用微調讓模型學會特定領域的語氣與邏輯，再搭配 RAG 檢索最新或動態資料，兩者互補而非二選一。
微調後的模型知識會過時嗎？
會。微調後的知識是靜態的，新資訊需要重新訓練或再次微調才能納入，這也是它在快速變化的資料環境中不如 RAG 靈活的原因。
參考資料
- Lewis, P. 等人，〈Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks〉，提出 RAG 架構的原始論文，存取日期：2026-08-27。https://arxiv.org/abs/2005.11401
- OpenAI 官方文件，Fine-tuning 指南，說明 Supervised Fine-Tuning、DPO 等微調方式與適用情境，存取日期：2026-08-27。https://developers.openai.com/api/docs/guides/fine-tuning
延伸閱讀
- Retrieval Interleaved Generation（RIG）是什麼？跟 RAG 有何不同：同樣聚焦 RAG、LLM，可接著比較不同情境的做法。
- 檢索增強生成（RAG）如何讓 LLM 回答更準確：同樣聚焦 RAG、LLM，可接著比較不同情境的做法。
- OpenAI 模型微調（Fine-tuning）完整流程：資料準備到上線實戰：同樣聚焦 Fine-tuning、LLM，可接著比較不同情境的做法。
關於作者
Claire Chang ｜ 企業 AI 導入與流程轉型顧問。專注於 AI Agent 架構設計、ERP 系統整合與企業 AI 治理。
首次發布：2024-11-29