RAG 聊天機器人

RAG 代表檢索增強生成（retrieval-augmented generation）。RAG 聊天機器人將大型語言模型與檢索步驟結合在一起：當使用者提問時，系統會先在知識來源（說明文章、產品文件、政策、過往工單）中搜尋最相關的段落，再把這些段落作為背景脈絡傳給模型，讓生成的答案是依據真實、最新的資訊，而不只是模型的一般訓練資料。

在機制上，知識來源通常會被切分成片段，轉換成向量嵌入（vector embeddings），並儲存在向量資料庫或搜尋索引中。查詢時，使用者的問題會被轉換成向量，並與該索引比對，以檢索出最接近的段落。這些段落會被插入提示中，模型再根據它們生成回覆，通常還會附上指回來源的引用。

相較於單純的語言模型，RAG 的主要優勢在於準確性與即時性。由於答案是與檢索到的內容綁定的，RAG 聊天機器人能反映模型訓練時還不存在的資訊、與你特定的政策保持一致，並透過提供權威素材給模型依據來減少幻覺。更新知識庫就能更新機器人的答案，無需重新訓練模型。

RAG 並非萬靈丹。答案品質高度仰賴檢索品質：如果索引缺漏內容、切分不當或回傳不相關的段落，模型仍可能產生錯誤或含糊的答案。優良的 RAG 系統會投入心力於乾淨的來源內容、合理的切分、強而有力的檢索排序，以及防止模型偏離檢索結果的接地檢查。

Mercateer 正是建立在這種知識優先的模式之上。每個智能體都會從你自己的文件、常見問答與政策中檢索，並以這些素材作為答案的依據，讓回覆保持準確且符合政策，比起只懂得有人事先手動接好的路徑的腳本式決策樹，更接近一套打造良好的 RAG 系統。