RAG 到底在檢索什麼？用圖書館的比喻講清楚

如果你問過 AI 助教一個問題，得到的答案卻明顯不對，但你確定教材裡有寫——那很可能不是 AI「不夠聰明」，而是它沒有找到那段教材。要理解為什麼，得先知道 RAG 在檢索什麼。

先說結論：它比對的是語意，不是文字

RAG 是 Retrieval-Augmented Generation 的縮寫，中文常譯作「檢索增強生成」。名字裡的三個字各自對應一個步驟：

STEP 1

檢索

從知識庫找出相關段落

STEP 2

增強

把材料放進提示詞

STEP 3

生成

模型根據材料回答

關鍵在第一步。很多人直覺以為那是搜尋引擎那種關鍵字比對——你打「退款」，它就去找有「退款」兩個字的段落。實際上不是。

RAG 會把每一段文字轉換成一串數字（稱為向量），然後比較「你的問題」與「每一段教材」在意義上的距離。

想像兩種圖書館員。你問的是同一個問題，但他們找書的方式完全不同：