跳到正文

StarCoder2

在 600 多种编程语言上预训练的代码模型

访问官网

StarCoder2 是什么

StarCoder2 被介绍为一个 1500 亿参数的 Transformer 模型,在包括 GitHub 在内的 600 多种编程语言数据集上进行了预训练,并使用了 Grouped Query Attention 等技术。

你可以用它做什么

  • 基于提示生成 Python 代码
  • 针对代码搜索任务进行 Fine-tuning
  • 部署到 API Endpoint 上提供代码生成服务
  • 用于多种编程语言的代码生成任务

模型说明

  • 资料写明模型为 1500 亿参数的 Transformer
  • 训练数据覆盖 600 多种编程语言,包括 GitHub
  • 使用了 Grouped Query Attention 技术
  • 支持 CPU、GPU 和混合精度训练,并提供多种推理部署方案

优点与缺点

✓ 我们认可的地方

  • 支持 CPU、GPU 和混合精度训练
  • 覆盖 600 多种编程语言

! 需要留意的地方

  • 资料列出的任务以代码生成为主
  • 训练与部署依赖列出的硬件与推理方案

常见问题

列出多少种编程语言?

资料说明训练数据集包含 600 多种编程语言。

支持哪些训练方式?

资料列出 CPU、GPU 和混合精度训练,并提供多种推理部署方案。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法