跳到正文

ahxt/LiteLlama-460M-1T

规模缩小的开放 LLaMa 2 衍生模型

访问官网
分类 AI模型

ahxt/LiteLlama-460M-1T 是什么

该模型被介绍为 LLaMa 2 的开源缩减版本,具有 460M 个参数,并使用 1T 个令牌训练。

你可以用它做什么

  • 用模型生成文本
  • 尝试问答任务
  • 在 MMLU 上评估文本生成

模型说明

  • GPT2Tokenizer 负责文本分词
  • 与 HuggingFace Transformers 库搭配使用
  • MMLU 被列为评估任务

优点与缺点

✓ 我们认可的地方

  • 可与 HuggingFace Transformers 库一起使用
  • 资料说明模型规模更小

! 需要留意的地方

  • 被描述为 LLaMa 2 的缩减版本
  • 资料说明训练使用 1T 个令牌

常见问题

模型有多大?

资料列出 460M 个参数与 1T 个训练令牌。

列出哪个库?

资料列出 HuggingFace Transformers 库。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法