跳到正文

MiniCPM-Llama3-V 2.5

面向端侧部署的 8B 多模态大模型

访问官网
分类 AI模型

MiniCPM-Llama3-V 2.5 是什么

MiniCPM-Llama3-V 2.5 被介绍为 OpenBMB 项目最新发布的端侧多模态大模型,具备 8B 参数量并支持超过 30 种语言。它通过模型量化、CPU、NPU 和编译优化等技术,实现在终端设备上的高效部署。

你可以用它做什么

  • 在智能手机上进行图像与文本的多模态交互
  • 进行场景文字识别和信息提取
  • 开展跨语言的多模态对话与内容生成
  • 通过量化把模型部署到终端设备

模型说明

  • 简介写明 8B 参数量
  • OpenCompass 榜单平均得分为 65.1
  • OCRBench 得分 725,并支持全文 OCR 信息提取
  • 通过 RLAIF-V 对齐技术降低幻觉率

上手流程

  • 把 OpenBMB/MiniCPM-V 代码仓库克隆到本地
  • 创建 conda 环境并安装所需依赖
  • 根据设备类型(如 NVIDIA GPU、Mac MPS)运行本地 WebUI Demo
  • 使用 Huggingface Transformers 库或 SWIFT 框架微调模型

优点与缺点

✓ 我们认可的地方

  • 模型量化与编译优化面向终端设备部署
  • 通过 RLAIF-V 对齐技术降低幻觉率

! 需要留意的地方

  • 本地部署需要创建 conda 环境并安装依赖
  • 微调依赖 Huggingface Transformers 库或 SWIFT 框架

常见问题

模型规模多大?

资料说明模型具备 8B 参数量,并支持超过 30 种语言。

列出了哪些得分?

功能列表给出 OpenCompass 平均得分 65.1 与 OCRBench 得分 725。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法