跳到正文

Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int4

采用 GPTQ 4-bit 量化的 1.5B 代码模型

访问官网

Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int4 是什么

Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int4 被介绍为基于 Qwen2.5 构建的 Qwen2.5-Coder 系列模型,专注于代码生成、代码推理与代码修复。

你可以用它做什么

  • 按请求编写某个功能的代码
  • 解释已有代码的运行逻辑

如何开始使用

  • 安装版本符合要求的 Hugging Face transformers 库
  • 用提供的类加载模型与分词器

优点与缺点

✓ 我们认可的地方

  • 覆盖多种主流编程语言
  • 以 GPTQ 4-bit 量化优化模型大小与推理速度

! 需要留意的地方

  • 需安装符合版本要求的 Hugging Face transformers 库
  • 加载时需同时使用 AutoModelForCausalLM 与 AutoTokenizer

常见问题

使用了哪种量化?

资料写明采用 GPTQ 4-bit 量化技术。

模型规模是多少?

资料列出 1.54B 参数量与 28 层网络结构。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法