跳到正文

Zamba2-mini

面向设备端应用的小型语言模型

访问官网

Zamba2-mini 是什么

Zamba2-mini 被介绍为专为设备端应用设计的小型语言模型,在极小的内存占用下保持与更大模型相媲美的评估分数。

你可以用它做什么

  • 在设备上进行语言理解与生成
  • 在嵌入式系统中做自然语言交互
  • 在智能设备上快速分析文本并响应

模型说明

  • 预训练数据集列为 3 万亿个令牌
  • 独立的退火阶段使用 100B 高质量令牌
  • 资料称 Mamba2 块吞吐量很高

优点与缺点

✓ 我们认可的地方

  • 资料描述首令牌生成时间更快、生成延迟更低
  • 资料列出 3 万亿个令牌的预训练数据集

! 需要留意的地方

  • 模型规模面向设备端应用
  • 共享变换器块把更多参数分配给 Mamba2 主干

常见问题

谁发布的?

资料说明由 Zyphra Technologies Inc. 发布。

权重如何授权?

资料说明权重已按 Apache 2.0 开源发布。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法