跳到正文

Qwen2.5-Coder-0.5B-Instruct-GPTQ-Int4

经过 GPTQ 量化的轻量代码生成模型

访问官网

qwen2-5-coder-0-5b-instruct-gptq-int4 是什么

该模型被介绍为 Qwen2.5-Coder 系列中面向代码任务、经过 GPTQ 量化的小型成员。

你可以用它做什么

  • 按要求写出算法代码
  • 在审查中梳理代码逻辑
  • 定位并修复代码问题

如何开始

  • 安装 transformers 与 torch
  • 从 Hugging Face 加载模型与分词器
  • 用聊天模板处理输入

优点与缺点

✓ 我们认可的地方

  • 覆盖代码生成、推理与修复
  • 训练涵盖 5.5 万亿 token 数据

! 需要留意的地方

  • 需安装 transformers 与 torch 等库
  • 需用聊天模板处理输入

常见问题

量化方式是什么?

资料说明这是 4 位 GPTQ 量化的指令调整模型。

上下文多长?

资料列出 32,768 个 token。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法