跳到正文

MobileLLM

面向移动设备优化的十亿参数以下模型

访问官网

MobileLLM 是什么

该模型家族被介绍为参数少于十亿的小型语言模型,围绕模型架构质量来做移动部署设计。

你可以用它做什么

  • 在移动硬件上运行语言任务
  • 用分组查询注意力提升效率
  • 使用块级权重共享

应用场景

  • 手机实时处理语音与语言任务
  • 移动应用提供个性化助手
  • 受限设备获得语言理解能力

优点与缺点

✓ 我们认可的地方

  • 聊天基准测试相较此前小型模型有改进
  • API 调用任务接近 LLaMA-v2 7B 的正确性

! 需要留意的地方

  • 使用前需下载模型权重
  • 需自行设置开发环境和依赖库

常见问题

模型规模多大?

资料说明面向移动部署设计少于十亿参数的模型。

块级共享有什么用?

资料说明块级权重共享不增加模型大小,且延迟开销小。

最后评测: 2026-11-15

更多 AI 聊天助手 工具

查看全部 →

评测方法