Qwen2.5-Coder-3B-Instruct-GPTQ-Int8 是什么
该模型被介绍为 Qwen2.5-Coder 系列中的指令调优量化版本,围绕代码生成、代码推理与代码修复进行训练。
你可以用它做什么
- 由提示生成源代码
- 理解代码逻辑再做修改
- 检测并修复代码错误
上手流程
- 安装 4.37.0 及以上版本的 transformers
- 从 Hub 加载模型与分词器
- 应用聊天模板并生成输出
优点与缺点
✓ 我们认可的地方
- 代码修复与生成并列为功能
- 资料说明保留数学与通用能力
! 需要留意的地方
- 加载需 transformers 4.37.0 及以上版本
- 生成前需用聊天模板处理输入
常见问题
采用什么量化?
资料说明采用 GPTQ 8 位量化技术。
上下文多长?
资料列出支持长达 32768 个 token 的上下文。
最后评测: 2026-11-15