LLM 評估是用明確的標準檢查 AI 助理是否答對問題、是否依據正確資料，以及遇到資訊不足時是否採取適當行動。企業可先用一組有業務驗收標準的題目建立基準，上線後再抽查真實對話，將失敗樣本加入回歸測試。
以知識庫客服為例，模型呼叫即使回傳 HTTP 200，回答仍可能漏掉退貨限制。要找出原因，至少需要同時檢視使用者原始問題、當次實際提供給模型的檢索片段，以及使用者看到的最終回答。
AI 助理答錯時，如何找出是哪一步出問題？
先比對模型收到的知識片段與最終回答。如果片段已有完整條件，優先檢查提示詞與生成過程。如果片段缺少關鍵限制或引用舊版政策，就先追查檢索流程或資料版本。
假設案例｜售後政策問答
- 知識庫政策
- 簽收後七天內，商品須未拆封且符合品類規則，才可申請此退貨方案。
- 使用者問題
- 商品已經拆封，還能直接申請這項退貨方案嗎？
- AI 助理回答
- 可以，簽收後七天內都能申請。
這句回答有回應退貨問題，但把七天期限當成唯一條件。依題目提供的政策，助理應說明已拆封商品不符合這項方案的條件。若客戶想確認其他方案或例外，則依業務規則追問或轉交客服。
相同的錯誤回答可能來自不同環節。可依下表選擇優先檢查項目，再用相同題目重跑，確認修正是否有效。
小螢幕可橫向滑動表格，查看修正與驗證方式。
| 觀察到的現象 | 優先檢查 | 修正與驗證方式 |
|---|---|---|
| 已取得完整政策，回答仍漏掉限制 | 提示詞、回答生成 | 明確要求保留適用條件與例外，再重跑漏答題。 |
| 檢索片段只有七天期限 | 文件切分、檢索、上下文組裝 | 調整條件與主規則的切分方式，確認送入模型的片段包含完整規則。 |
| 回答符合檢索資料，但政策已過期 | 文件版本、索引與快取 | 更新核准版政策，重建受影響的索引並檢查快取。 |
| 缺少必要資訊，仍給出確定結論 | 業務規則、澄清與轉接流程 | 定義必問欄位和人工轉接條件，新增資料不足的測試題。 |
LLM 評估應該看哪些指標？
企業知識庫問答可先檢查回答相關性、忠實度與業務驗收。若應用採用檢索增強生成（RAG），可將檢索與回答分開評估，確認模型是否取得足夠資料，以及是否正確使用那些資料。
回答相關性（Answer Relevancy）
檢查回答有沒有回應使用者真正問的事。只介紹退貨申請入口，卻沒說明拆封後是否適用，就沒有答到重點。自動評估通常需要原始問題與實際回答。
忠實度（Faithfulness）
檢查回答中的陳述能否由當次提供給模型的檢索片段支持。例如，資料僅允許未拆封商品申請，回答卻承諾所有商品都可申請，就超出了資料支持的範圍。政策是否仍有效，還要依文件版本與業務規則另行核對。
業務驗收（Business Acceptance）
由業務團隊定義合格的處理方式，例如回答須說明適用條件、缺少品類時要先追問、遇到未明定的例外要轉人工。錯誤承諾或遺漏關鍵限制可單獨列為不通過項目，避免被平均分數掩蓋。
如何建立持續評估？從五個步驟開始
先選一個規則明確、有人能判斷對錯的場景，建立可重複執行的驗收集。確認評分可信後，再把上線抽樣與版本回歸測試接起來。
- 建立驗收題庫。涵蓋一般查詢、資訊不足、規則例外及應轉人工的情境。為每題記錄必要條件、可接受的處理方式與禁止承諾。
- 保留能重現問題的資料。以測試或去識別樣本核對原始問題、最終回答、當次檢索片段，以及知識庫、模型和提示詞版本是否可追溯。
- 用人工標註校準自動評分。讓業務人員先標註一批代表性樣本，比較自動評分的結果和理由。出現落差時，先檢查評估規則、評分模型與輸入欄位，再調整門檻。
- 按錯誤原因修正並複測。依原因調整知識庫、檢索、提示詞或業務流程。比較版本時固定題庫與評分設定，並逐題檢查關鍵錯誤是否再發生。
- 抽樣評估正式環境的請求。先從可負擔的樣本量開始，優先納入容易誤答的情境，定期將新失敗樣本加回題庫。擴大抽樣前，估算評分模型、資料儲存與人工複核成本。
TrueFoundry 與 Confident AI 如何串接？
TrueFoundry AI 閘道器可將模型請求的追蹤資料透過 OpenTelemetry 匯出，Confident AI 則依設定的評估規則、指標與抽樣率，在背景對收到的追蹤資料評分。應用程式先回傳回答，評估分數隨後附在追蹤紀錄上。
- 在 TrueFoundry 的 AI Gateway → Controls → Settings → OTEL Config 啟用追蹤匯出，選擇 HTTP 與 JSON。
- 依 Confident AI 專案部署區域填入對應的追蹤接收端點，設定
Content-Type: application/json，並以x-confident-api-key傳送專案 API 金鑰。 - 送出不含敏感資料的測試請求，確認 Confident AI 收到追蹤紀錄及指標所需欄位，再啟用評估規則與抽樣。
模型呼叫紀錄夠用嗎？
評估 RAG 回答的忠實度還需要模型當次使用的檢索內容。即使片段已拼進提示詞，也要確認評估器能否將它辨識為所需的檢索上下文（例如 retrieval_context）。文件版本、使用者回饋或工單結果通常要由應用程式另行補充。若要串起應用端與閘道器的紀錄，應驗證追蹤上下文有正確傳遞。
何時需要回覆前檢查？
若錯誤承諾、敏感資料或違反政策的內容必須在送出前攔截，應在請求路徑中配置即時規則、護欄或人工核准。背景評估適合找出問題樣本並回饋後續修正。
追蹤資料如何管理，才能兼顧評估與資安？
正式啟用前，先決定哪些欄位可匯出、是否需要遮罩、誰能查閱、保留多久，以及評估服務與評分模型會在哪裡處理資料。客服問題、最終回答與知識片段都可能包含客戶資訊或內部文件內容。
TrueFoundry 的 Exclude Request Data 可在閘道器的追蹤匯出中排除請求與回應正文。啟用後，應以測試樣本確認接收端實際收到哪些欄位。需要正文才能執行的指標，可改用經核准且去識別的樣本，或在符合資料政策的環境中執行。
LLM 評估常見問題
做 LLM 評估一定要先準備標準答案嗎？
視指標而定。回答相關性可用問題與回答評估，忠實度還需要當次的檢索內容。若要確認回答是否涵蓋業務必須說明的條件，建議準備參考答案或列明驗收條件。
AI 助理的忠實度很高，為什麼還是可能答錯？
忠實度衡量回答是否符合當次提供給模型的資料。若資料本身過期、不完整或選錯版本，回答即使忠實引用，仍可能與現行政策不符。
TrueFoundry 串接 Confident AI 後，能在回覆前攔截錯誤嗎？
這條追蹤匯出與評分流程會在背景執行。若要在使用者收到回覆前攔截內容，需另行配置請求路徑中的即時護欄或人工核准。
更換模型、提示詞或知識庫時，如何確認品質沒有退步？
用同一批代表性題目與同一套評分設定比較改版前後結果，逐題檢查錯誤承諾、遺漏條件與應轉人工的案例。把上線後新發現的失敗樣本補進回歸題庫。
規劃企業 AI 助理的模型接入與追蹤
如果您的團隊正在建置知識庫助理或智慧客服，可先盤點模型供應商、需要追蹤的欄位與資料匯出限制，再評估統一模型入口、路由與權限管理如何配合現有的品質評估流程。
