Agentgateway:AI Agent互联互通的开放网关,MCP协议与A2A协议一网打尽

项目介绍

Agentgateway是首个完整的Agentic AI连接解决方案,基于MCP(Model Context Protocol)和A2A(Agent-to-Agent)两大AI原生协议构建。它为AI Agent与LLM、Agent与工具、Agent与Agent之间的通信提供了一层统一的安全、可观测、可治理的代理层。项目获得超过2,000颗GitHub星标,受到业界广泛关注。

核心特色功能

LLM网关:通过统一的OpenAI兼容API,路由流量到OpenAI、Anthropic、Gemini、Bedrock等主流LLM服务商,支持预算和消费控制、提示词增强、负载均衡和故障转移。

MCP网关:将LLM连接到各种工具和数据源,支持stdio/HTTP/SSE/Streamable HTTP等多种传输协议,提供OpenAPI集成和OAuth认证功能。

A2A网关:实现Agent之间基于A2A协议的安全通信,支持能力发现、模态协商和任务协作。

智能路由:结合Kubernetes Inference Gateway扩展,根据GPU利用率、KV缓存、LoRA适配器和队列深度等指标,智能路由到自托管模型。

Guardrails安全防护:多层内容过滤,支持正则表达式、OpenAI Moderation、AWS Bedrock Guardrails、Google Model Armor以及自定义Webhook。

安装步骤

Docker部署(推荐)

git clone https://github.com/agentgateway/agentgateway.git
cd agentgateway
docker-compose up -d

源码编译安装

git clone https://github.com/agentgateway/agentgateway.git
cd agentgateway
cargo build --release
./target/release/agentgateway

访问 http://localhost:8000 打开管理界面。

使用方法

Agentgateway提供Web管理界面,可视化配置LLM提供商、MCP工具和A2A连接规则。配置完成后,其他AI应用只需连接Agentgateway的统一端点,即可访问所有已注册的工具和服务。

API调用示例(OpenAI兼容格式):

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{"model": "gpt-4", "messages": [{"role": "user", "content": "Hello"}]}'

适用场景

Agentgateway适合需要构建复杂AI Agent系统的企业和技术团队,特别是在多Agent协作、多工具调用、混合使用多个LLM提供商的场景中尤为有用。它还适合需要对外提供AI能力的平台型企业做统一网关使用。

开源协议

Agentgateway采用Apache 2.0开源许可证。


服务支持:如有兴趣不会搭建,可以联系微信:WRYD6166,开源项目搭建10-50元。

© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容