🎯 什麼情境該想到我

當提示工程與 RAG 都試過還不夠,開始考慮「要不要微調一個模型」時。

⚙️ 怎麼用(先分清問題屬於哪一類)

  • 缺「知識/事實」 → 用 RAG(換文件即可更新,別微調)。
  • 缺「行為/風格/格式」(要固定語氣、特定輸出樣式、遵循領域慣例)→ 微調較合適。
  • 順序:提示工程 → RAG → 微調。越後面越貴、越慢、越難維護。
  • 微調前提:要有足量、高品質的標註資料 + 可靠的 工具-AI系統評估 來證明它真的更好。

🧪 我實際套用的紀錄

  • 2026-07-15:(待填)

⚠️ 注意

  • 微調不會「教模型新事實」得可靠(仍會幻覺);事實類需求優先 RAG。微調也會綁死模型版本、增加維運負擔。

🔗 相關工具

  • 工具-提示工程 —— 三段順序的第一段,成本最低;多數「模型不聽話」的問題到這裡就解決了,不必走到微調
  • 工具-RAG檢索增強生成 —— 判定屬於「缺知識/事實」時的正解:換文件就能更新,別為了灌事實去微調
  • 工具-AI系統評估 —— 微調的硬前提,沒有可靠評估集就無法證明微調後真的比較好,只是換個貴的方式瞎調
  • 工具-LLM微調實作路線 —— 判定「該微調」之後的下一步:Full/LoRA/QLoRA 怎麼選、要多少顯存