liteLLM 是什么
liteLLM 被介绍为一个简化 LLM 完成和嵌入调用的开源库。它集成 Azure、Anthropic、OpenAI、Cohere 和 Replicate 等平台,可用一个函数调用它们的 API。
你可以用它做什么
- 用一个函数调用 LLM 完成和嵌入 API
- 跨各平台使用方便的接口
- 依靠一致的输出格式
- 简化 LLM 模型的使用方式
各平台 API
- 调用 Azure 的 LLM 完成和嵌入 API
- 调用 Anthropic 的 LLM 完成和嵌入 API
- 调用 OpenAI 的 LLM 完成和嵌入 API
- 调用 Cohere 和 Replicate 的 LLM 完成和嵌入 API
资料列举的场景
- 自然语言处理
- 文本生成
- 对话系统
优点与缺点
✓ 我们认可的地方
- 完成与嵌入调用共用一个接口
- 跨平台的输出格式保持一致
! 需要留意的地方
- 资料列出的平台为 Azure、Anthropic、OpenAI、Cohere 和 Replicate
- 调用要经过库的接口与其输出格式
常见问题
集成了哪些平台?
资料列出 Azure、Anthropic、OpenAI、Cohere 和 Replicate。
调用中什么保持一致?
简介说明提供方便的接口和一致的输出格式。
最后评测: 2026-11-15