為何 AI 需要來源依據

來源依據把 AI 輸出連接到支撐它的文件、紀錄、政策或數據。審閱者應能檢查主張從何而來、來源是否最新，以及結論是否超出證據。

為何重要

語言模型產生合理文字，但合理不等於有出處。專業答案即使寫得很好，仍可能依賴過時政策、遺漏矛盾紀錄，或把非正式筆記當成權威來源。

檢索增強生成（RAG）是把外部證據帶入生成的一種方法。最初的 RAG 論文把模型知識與檢索記憶結合，部分目的是改善出處和可更新性（Lewis et al., 2020）。

但檢索不等於有依據。系統仍可能找錯段落、遺漏相關來源、引用不支持主張的文件，或沒有辨認兩個來源互相矛盾。

有用的依據應顯示甚麼

專業輸出應顯示所用來源及其支持的主張、日期和版本、來源權威、衝突與缺漏、紀錄事實與模型推論的差異、人的判斷在哪裏介入，以及返回權威紀錄的路徑。

NIST AI 風險管理框架強調在整個系統生命週期理解使用脈絡並管理風險（NIST^{3NIST, AI Risk Management Framework}）。來源依據令證據和限制可供檢查，正好支持這項工作。

來源依據做不到甚麼

它不能證明來源本身正確，不能解決機構權限、找回未記錄例外，亦不能決定行動是否合適。它建立更好的審閱表面，並不消除審閱需要。

實際測試是：負責人能否追溯重要主張、看見缺漏，並在毋須重做整個調查下質疑結論？

延伸閱讀：人在迴路 AI。

Sources

1. Lewis et al., “Retrieval-Augmented Generation”
2. Gao et al., RAG Survey
3. NIST, AI Risk Management Framework