跳到正文

AIKit

用一个工具包托管、部署与微调大语言模型

访问官网

AIKit 是什么

AIKit 被介绍为一个简化大型语言模型托管、部署、构建和微调的开源工具,提供与 OpenAI API 兼容的 REST API。

你可以用它做什么

  • 通过兼容的 REST API 提供服务
  • 用 Unsloth 接口进行微调
  • 用声明式配置设定推理
  • 运行多模态模型与图像生成

应用场景

  • 在本地机器上无需 GPU 启动大模型
  • 在 Kubernetes 上部署大模型
  • 用特定领域数据训练模型

优点与缺点

✓ 我们认可的地方

  • 声明式配置简化推理与微调过程
  • 支持多模态模型和图像生成

! 需要留意的地方

  • 运行该工具需要 Docker
  • 微调通过支持 Unsloth 的接口进行

常见问题

运行需要什么?

功能列表写明只需 Docker,无需 GPU、互联网或额外工具。

提供什么接口?

资料描述与 OpenAI API 兼容的 REST API。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法