Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int4 是什么
Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int4 被介绍为基于 Qwen2.5 构建的 Qwen2.5-Coder 系列模型,专注于代码生成、代码推理与代码修复。
你可以用它做什么
- 按请求编写某个功能的代码
- 解释已有代码的运行逻辑
如何开始使用
- 安装版本符合要求的 Hugging Face transformers 库
- 用提供的类加载模型与分词器
优点与缺点
✓ 我们认可的地方
- 覆盖多种主流编程语言
- 以 GPTQ 4-bit 量化优化模型大小与推理速度
! 需要留意的地方
- 需安装符合版本要求的 Hugging Face transformers 库
- 加载时需同时使用 AutoModelForCausalLM 与 AutoTokenizer
常见问题
使用了哪种量化?
资料写明采用 GPTQ 4-bit 量化技术。
模型规模是多少?
资料列出 1.54B 参数量与 28 层网络结构。
最后评测: 2026-11-15