跳到正文

Qwen2.5-Coder-3B-Instruct-GPTQ-Int8

面向生成、推理与修复的 3B 代码模型

访问官网

Qwen2.5-Coder-3B-Instruct-GPTQ-Int8 是什么

该模型被介绍为 Qwen2.5-Coder 系列中的指令调优量化版本,围绕代码生成、代码推理与代码修复进行训练。

你可以用它做什么

  • 由提示生成源代码
  • 理解代码逻辑再做修改
  • 检测并修复代码错误

上手流程

  • 安装 4.37.0 及以上版本的 transformers
  • 从 Hub 加载模型与分词器
  • 应用聊天模板并生成输出

优点与缺点

✓ 我们认可的地方

  • 代码修复与生成并列为功能
  • 资料说明保留数学与通用能力

! 需要留意的地方

  • 加载需 transformers 4.37.0 及以上版本
  • 生成前需用聊天模板处理输入

常见问题

采用什么量化?

资料说明采用 GPTQ 8 位量化技术。

上下文多长?

资料列出支持长达 32768 个 token 的上下文。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法