Agent 集中管理
將 AI Agent 納入統一管理， 集中設定身分驗證、存取政策與執行規則， 減少各應用程式分別維護治理邏輯的負擔。
TrueFoundry
企業 AI 解決方案
ENTERPRISE AGENT GATEWAY
TrueFoundry
企業級 Agent 閘道器
集中管理 AI Agent，
讓執行過程可追蹤、可控管
將分散於不同框架與系統的 AI Agent 納入統一管理， 集中處理註冊、探索、身分驗證與存取政策。 追蹤模型及工具呼叫，掌握執行狀態、Token 用量與成本， 協助企業建立可治理的 AI Agent 應用環境。
集中管理
註冊與探索跨框架 Agent
權限治理
管理身分、角色與存取政策
執行追蹤
掌握呼叫紀錄、用量與成本
彈性部署
VPC
地端部署
實體隔離環境
ONE CONTROL LAYER FOR YOUR AGENTS
LangChain
Agent
CrewAI
Agent
自訂框架
Agent
集中註冊與存取管理
TrueFoundry
Agent Gateway
身分驗證
RBAC 權限
配額與預算
執行追蹤
依政策管理模型與工具呼叫
AI 模型服務
模型呼叫與使用量管理
MCP 工具服務
企業工具與內部系統串接
可觀測性
延遲與錯誤率
工具呼叫
Token 與成本
Agent 治理概念示意｜追蹤與政策控管範圍依實際串接及部署設定而定。
平台客戶與使用團隊
ENTERPRISE AGENT CONTROL
讓 AI Agent 工作流程，兼顧安全與擴充能力
從集中管理、執行追蹤到權限與可靠性， 透過 TrueFoundry Agent 閘道器建立統一的治理機制， 協助企業將 AI Agent 應用拓展至正式營運環境。
執行追蹤與可觀測性
追蹤 Agent 執行步驟、模型呼叫與工具互動， 掌握延遲、錯誤及用量資訊， 協助團隊定位問題與分析執行效能。
政策與 RBAC 權限控管
透過角色型存取控制（RBAC）與政策設定， 管理誰能部署、執行或修改 Agent， 建立清楚的團隊權限與存取邊界。
可靠的多步驟任務執行
支援多步驟 Agent 工作流程， 搭配可設定的重試、逾時控制與備援路徑， 降低模型或工具異常對任務執行的影響。
彈性擴充與穩定運作
隨 Agent 工作負載調整運算規模， 因應多項任務同時執行的需求， 支援企業持續擴充 AI 應用與正式環境服務。
跨框架整合
支援 LangChain、CrewAI 與自訂 Agent 實作， 將不同框架建立的 Agent 納入共同管理， 延續既有開發方式與技術選擇。
CENTRALIZED AGENT REGISTRY
集中管理與探索企業 AI Agent
將不同團隊與框架建立的 Agent 納入共同目錄， 建立一致的服務探索與治理方式。
- 集中檢視 Agent 名稱、版本、說明與類型， 協助團隊查找可用服務。
- 支援 LangChain、CrewAI 與自訂實作， 延續既有 Agent 開發方式。
- 透過共同的路由與政策規則， 管理 Agent 對模型及工具的呼叫。
- 集中管理身分驗證、服務帳號與存取權限， 減少分散設定的維護負擔。
OBSERVABILITY & TRACING
看見 Agent 執行狀態與效能變化
從請求指標到執行追蹤， 協助團隊理解 Agent 的運作情況並定位問題。
- 監控請求量、延遲、錯誤率與重試情況， 掌握工作流程的服務品質。
- 整合 Agent 步驟、模型呼叫及工具互動的追蹤資訊， 分析失敗位置與效能瓶頸。
- 將 Token 用量與模型成本歸屬至 Agent、 工作流程、團隊或環境。
- 搭配執行日誌追查異常； 內部步驟的可見範圍依追蹤整合設定而定。
BUDGETS & ACCESS CONTROL
控管 Agent 權限、配額與預算
為團隊與服務帳號建立明確的使用邊界， 同時掌握自主 Agent 的資源消耗。
- 依 Agent、工作流程或環境， 設定以 Token 用量或成本為基礎的配額。
- 透過角色型存取控制（RBAC）， 管理 Agent 的部署、執行與修改權限。
- 集中管理使用者身分與服務帳號， 依職責配置適當權限。
- 區分開發、測試與正式環境的存取範圍， 降低跨環境誤用風險。
TRAFFIC CONTROL & RELIABILITY
管理請求流量，提升執行可靠性
結合請求速率限制與異常處理策略， 因應流量尖峰、模型中斷及工具異常。
- 依使用者、服務帳號或指定模型， 設定每分鐘請求限制。
- 透過集中流量規則， 管理共用模型與工具服務的使用負載。
- 搭配重試、逾時及備援策略， 降低單一服務失敗對工作流程的影響。
為多步驟工作流程配置異常處理機制
依任務與工具特性設定處理方式，提升正式環境的執行韌性。
可設定的重試策略
對適合重試的失敗步驟重新發出請求， 並為寫入等操作配置重複執行保護。
逾時與執行限制
設定等待時間與保護機制， 避免任務長時間停滯或反覆執行。
模型與工具備援
依工作流程預先配置可用的替代服務， 在呼叫失敗時採取對應處理路徑。
MCP-POWERED TOOL ACCESS
透過 MCP 串接與治理企業工具
將工具存取納入共同的管理機制， 讓 Agent 依授權使用企業服務。
- 透過已註冊的 MCP 伺服器， 集中探索與使用可用工具。
- 串接 Slack、GitHub、資料庫與內部服務， 擴充 Agent 可執行的工作。
- 依服務設定套用 OAuth 2.0、 RBAC 與中繼資料政策。
- 記錄經由閘道器的工具呼叫， 支援問題追蹤與操作稽核。
SECURITY GUARDRAILS
以安全護欄落實 Agent 使用政策
依資料敏感程度與工具操作風險， 配置適合企業的安全規則。
- 控管 Agent 可存取的工具與功能範圍， 建立明確的操作邊界。
- 配置個人識別資訊（PII）過濾、 內容檢查與敏感操作限制。
- 整合不同安全護欄服務， 依企業政策設定適用的檢查規則。
- 搭配執行追蹤與稽核紀錄， 檢視模型呼叫及工具操作的處理結果。
BUILT FOR PRODUCTION AI
支援企業 AI 應用，從導入走向規模化
結合流量管理、備援與預算政策， 支援正式環境的服務規模、可用性與成本管理需求。
每月處理請求
100 億＋支援大規模 AI 流量
TrueFoundry 公布每月處理超過 100 億次請求， 展現其 AI 服務的流量處理規模。
服務可用性
99.99%強化服務持續運作能力
結合備援切換、路由與安全護欄， 降低模型服務異常對 AI 應用的影響。
平均 AI 成本優化
30%減少不必要的資源消耗
透過智慧路由、批次處理與預算控管， 優化 Token 使用及推論支出。
實際成效依部署架構、工作負載與設定而異； 服務可用性承諾及計算方式以適用的 SLA 為準。
ENTERPRISE AGENT SECURITY & GOVERNANCE
企業級 Agent 閘道器，
讓 AI 執行兼顧資安與治理
將 TrueFoundry 部署於企業的雲端或地端基礎架構， 集中管理 AI Agent 的身分、存取權限與安全政策， 為模型呼叫及工具操作建立清楚的治理邊界。
- 依角色與政策管理 Agent 的部署、執行及修改權限， 控管可存取的模型、工具與企業服務。
- 配置個人識別資訊（PII）過濾、敏感操作限制與安全護欄， 並保留執行紀錄，支援問題追蹤與稽核。
資安與法遵
提供資料安全與隱私保護能力， 協助企業因應 SOC 2、HIPAA 與 GDPR 相關要求， 並依 Agent 工作流程設定適用的安全政策與護欄。
身分驗證與權限治理
支援單一登入（SSO）、角色型存取控制（RBAC） 與稽核日誌，集中管理使用者及服務帳號， 控管 Agent 的執行權限並追蹤操作紀錄。
企業級支援與可靠性
TrueFoundry 提供全天候技術支援， 並依服務等級協議（SLA）約定回應時效， 協助企業維持關鍵 AI Agent 應用的穩定運作。
DEPLOY ON YOUR TERMS
彈性部署，
配合企業既有 IT 環境
TrueFoundry 支援 VPC、地端資料中心、實體隔離環境與多雲部署， 讓企業依基礎架構、資料管理與安全需求，選擇適合的部署方式。
掌握資料主權與環境隔離
將平台部署於企業管理的環境， 依組織需求落實資料存取、環境隔離與治理政策。
FLEXIBLE DEPLOYMENT
FREQUENTLY ASKED QUESTIONS
Agent 閘道器常見問題
從基本概念到 TrueFoundry 的跨框架整合、執行追蹤與權限治理， 快速了解企業導入 Agent 閘道器的重點。
基本概念
什麼是 Agent 閘道器（Agent Gateway）？
Agent 閘道器是集中管理 AI Agent 存取與互動的控制層， 提供身分驗證、請求路由、政策控管與執行追蹤， 協助企業治理 Agent 與模型、工具及其他服務之間的通訊。
Agent 閘道器如何運作？
當 Agent 透過閘道器發出請求時， 系統會依身分與政策檢查存取權限， 再將請求轉送至對應服務，並記錄用量、延遲及執行結果。 控管範圍取決於實際經過閘道器的流量與追蹤整合設定。
Agent 閘道器、AI 閘道器與 MCP 閘道器有什麼差異？
AI 閘道器著重模型存取、路由與 Token 用量管理； MCP 閘道器著重 MCP 伺服器與工具存取； Agent 閘道器則以 Agent 為管理對象， 集中處理註冊、探索、權限與執行追蹤。 三者可搭配使用。
企業在什麼情況下需要 Agent 閘道器？
當不同團隊建立多個 Agent， 開始面臨服務難以查找、權限分散、成本不透明或故障難以追蹤時， 可評估導入 Agent 閘道器，建立共用的管理與治理機制。
Agent 閘道器可以取代 Agent 框架或工作流程引擎嗎？
不可以直接取代。Agent 框架與工作流程引擎負責任務邏輯、 狀態及步驟編排；Agent 閘道器提供集中存取與治理。 導入時仍需整合既有框架、工具與執行環境。
TrueFoundry 產品與導入
TrueFoundry 能集中管理不同框架建立的 Agent 嗎？
可以。TrueFoundry 提供 Agent 註冊與探索功能， 支援整合 LangChain、CrewAI 及自訂實作等不同來源的 Agent。 團隊可在共同目錄中查找服務， 並依各 Agent 的介面與驗證方式完成串接。
如何追蹤 Agent 的執行狀態與模型、工具呼叫？
可透過集中式指標、日誌與追蹤資訊， 查看 Agent 請求量、延遲、錯誤及模型與工具互動， 協助定位失敗步驟與效能瓶頸。 Agent 內部步驟的可見程度取決於追蹤整合， 並不代表能讀取模型完整的內部推理過程。
如何管理 Agent 的 Token 用量、配額與預算？
可追蹤 Token 用量與模型成本， 並依 Agent、工作流程或環境配置配額與預算政策。 成本歸屬需搭配身分及請求標記設定， 外部工具另行收取的費用則需依整合方式確認。
如何控管 Agent 權限並保護敏感資料？
可結合身分驗證、角色型存取控制（RBAC）、 服務帳號與稽核日誌，管理 Agent 的部署、執行及修改權限， 並依需求配置個人識別資訊（PII）過濾與安全護欄。 涉及敏感操作時，也應在工具端設定適當授權。
模型或工具發生異常時，如何提升工作流程可靠性？
可依工作流程配置重試、逾時限制與備援路徑， 降低模型中斷或工具失敗的影響。 涉及寫入資料、寄送通知等操作時， 需搭配重複執行保護，避免重試造成重複操作。
Agent 如何透過 MCP 串接企業工具？
可透過已註冊的 MCP 伺服器， 讓 Agent 使用 GitHub、資料庫或內部系統提供的工具， 並依服務設定套用 OAuth 2.0、權限政策與呼叫紀錄。 實際可用功能取決於 MCP 伺服器提供的工具及授權範圍。
是否支援 VPC、地端或實體隔離部署？
TrueFoundry 提供 VPC、地端、實體隔離及多雲部署選項， 可依企業資安與維運需求評估。 若 Agent 需要呼叫外部模型或工具， 仍須規劃網路連線與資料傳送路徑； 各項功能的適用部署模式也需在導入前確認。
正在評估企業 Agent 閘道器？
與宏虹討論 Agent 整合、執行追蹤及權限治理需求。
BUILD WITH TRUEFOUNDRY
從模型到工具，規劃企業 AI 的下一步
正在評估 AI 模型整合、MCP 工具串接或 AI Agent 應用？ 告訴我們您的使用情境、部署環境與權限管理需求， 讓宏虹協助您釐清 TrueFoundry 的導入方向，規劃合適的整合與治理方案。