跳到正文

Portkey AI Gateway

用统一 API 连接多种 LLM 的快速 AI 网关

访问官网

Portkey AI Gateway 是什么

Portkey AI Gateway 被介绍为应用程序和托管 LLM 之间的接口。它使用统一的 API 优化对 OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini 等的请求,从而实现流畅的路由。

你可以用它做什么

  • 跨提供方使用统一的 API 签名
  • 把请求路由到多个模型
  • 失败时自动重试请求
  • 在多模型间做负载均衡并容错回退

使用示例

  • 使用 OpenAI SDK 通过网关调用不同的 LLM
  • 配置回退策略防止请求失败
  • 为应用配置多个 API 密钥实现负载均衡

应用场景

  • 通过统一的 API 使用各种 LLM
  • 提高应用程序的稳定性
  • 优化不同 LLM 的使用

优点与缺点

✓ 我们认可的地方

  • 内置重试机制有助于应用可靠性
  • 支持多模型负载均衡

! 需要留意的地方

  • 请求经由网关路由,而非直连各提供方
  • 资料列出的可靠性依赖内置重试与回退

常见问题

列出了哪些模型服务?

资料列出 OpenAI、Anthropic、Mistral、LLama2、Anyscale 与 Google Gemini 等。

有哪些可靠性功能?

功能列表包含自动重试、负载均衡与容错回退。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法