RAG（檢索增強生成）

RAG 是讓 AI 模型在回答前，先從企業內部文件中檢索相關內容，再依查到的資料生成答案的技術架構。

很多人以為要讓 AI 懂公司資料，必須先訓練一個屬於自己的模型，動輒要花數個月建置與標註資料，其實多數情況下只要有內部文件、FAQ、操作手冊，透過 RAG 讓模型在回答前先檢索這些資料再作答即可運作，不需要從零訓練模型，知識更新時只要替換文件、不必重新訓練，維護成本低上許多。以一家食品工廠導入客服機器人為例，只要把作業 SOP、常見客訴處理流程、退換貨規則整理成文件餵給系統，Agent 就能在對話當下檢索後回答，不必等資料科學團隊介入寫程式，上線速度也快上不少，文件每季更新一次即可反映到答案上。費用上，RAG 相關的開發與知識庫建置，在 AI Agent 專案報價中通常占整體預算的 35-45%，是成本占比最高的項目之一，也是驗收時最該仔細檢查品質、確認檢索是否真的準確的部分。常見誤解是把 RAG 和 Fine-tuning 混為一談——RAG 解決的是「模型不知道你的資料」，如果問題是「模型講話語氣或判斷邏輯需要調整」，RAG 並不是對的工具，那屬於 Fine-tuning 或 Prompt Engineering 的範疇，兩者處理的層次不同，不該互相取代或期待一種技術解決所有問題。