项目介绍
Agentgateway是首个完整的Agentic AI连接解决方案,基于MCP(Model Context Protocol)和A2A(Agent-to-Agent)两大AI原生协议构建。它为AI Agent与LLM、Agent与工具、Agent与Agent之间的通信提供了一层统一的安全、可观测、可治理的代理层。项目获得超过2,000颗GitHub星标,受到业界广泛关注。
核心特色功能
LLM网关:通过统一的OpenAI兼容API,路由流量到OpenAI、Anthropic、Gemini、Bedrock等主流LLM服务商,支持预算和消费控制、提示词增强、负载均衡和故障转移。
MCP网关:将LLM连接到各种工具和数据源,支持stdio/HTTP/SSE/Streamable HTTP等多种传输协议,提供OpenAPI集成和OAuth认证功能。
A2A网关:实现Agent之间基于A2A协议的安全通信,支持能力发现、模态协商和任务协作。
智能路由:结合Kubernetes Inference Gateway扩展,根据GPU利用率、KV缓存、LoRA适配器和队列深度等指标,智能路由到自托管模型。
Guardrails安全防护:多层内容过滤,支持正则表达式、OpenAI Moderation、AWS Bedrock Guardrails、Google Model Armor以及自定义Webhook。
安装步骤
Docker部署(推荐)
git clone https://github.com/agentgateway/agentgateway.git cd agentgateway docker-compose up -d
源码编译安装
git clone https://github.com/agentgateway/agentgateway.git cd agentgateway cargo build --release ./target/release/agentgateway
访问 http://localhost:8000 打开管理界面。
使用方法
Agentgateway提供Web管理界面,可视化配置LLM提供商、MCP工具和A2A连接规则。配置完成后,其他AI应用只需连接Agentgateway的统一端点,即可访问所有已注册的工具和服务。
API调用示例(OpenAI兼容格式):
curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{"model": "gpt-4", "messages": [{"role": "user", "content": "Hello"}]}'
适用场景
Agentgateway适合需要构建复杂AI Agent系统的企业和技术团队,特别是在多Agent协作、多工具调用、混合使用多个LLM提供商的场景中尤为有用。它还适合需要对外提供AI能力的平台型企业做统一网关使用。
开源协议
Agentgateway采用Apache 2.0开源许可证。
服务支持:如有兴趣不会搭建,可以联系微信:WRYD6166,开源项目搭建10-50元。









暂无评论内容