[Discussion] AI Gateway 与业务操作治理控制面应该如何分工? #4152
niejingchuan
started this conversation in
Ideas
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
背景
Higress 已经能够统一管理 LLM API、MCP Server 和 Agent API,并提供认证、路由、限流、审计与可观测能力。
但当 Agent 开始操作订单、库存、退款、员工等真实业务系统时,还需要回答另一组问题:
我目前倾向于将职责分为三层:
想向 Higress 社区请教
相关实践
我正在维护开放、实现中立的能力声明契约项目 ACC,以及用于验证相关思路的开源参考实现 BailingHub:
这里不是请求 Higress 直接采用某个项目,也不是提交具体功能需求,而是希望先与社区讨论 AI Gateway 和业务治理控制面之间更合理的职责边界,并了解是否已有相近设计或扩展方向。
All reactions