🎯 什麼情境該想到我
當模型「不知道你的私有/最新知識」、或你想讓它根據特定文件回答、並減少幻覺時。
⚙️ 怎麼用
- 把知識切塊（chunking）並建索引：文件切成適當大小、轉成 embedding 存進向量庫。
- 查詢時先檢索相關片段，再連同問題餵給模型：讓模型「有本可據」地回答。
- 檢索品質決定成敗：好的 embedding、混合檢索（關鍵字 + 向量）、重排序（rerank）比「塞更多內容」重要。
- 附上來源引用：讓答案可查證，也壓抑幻覺。
先試 RAG，通常比微調更快、更便宜、更好維護（知識更新只要換文件）。
🧪 我實際套用的紀錄
- 2026-07-15：（待填）
⚠️ 注意
- 塞越多 context 不一定越好（會稀釋、變貴、變慢）；檢索的「準」比「多」重要。
🔗 相關工具
- 工具-提示工程 —— 上一段手段，成本更低；很多以為要 RAG 的問題其實調 prompt 就解決
- 工具-微調與RAG的取捨 —— 下一段的分岔點：缺知識走 RAG、缺風格與格式才考慮微調，這張講怎麼判
- 工具-AI系統評估 —— 沒有它就不知道 RAG 到底有沒有讓答案變準，檢索品質要能量化
- 工具-LLM安全防護 —— RAG 的暗面：檢索進來的文件正是間接提示注入的主要載體，接外部來源前先看它