跳到正文

ComfyUI-GGUF

为 ComfyUI 原生模型加上 GGUF 量化支持

访问官网

ComfyUI-GGUF 是什么

ComfyUI-GGUF 被介绍为一个为 ComfyUI 原生模型提供 GGUF 量化支持的项目,允许模型文件以由 llama.cpp 推广的 GGUF 格式存储。

你可以用它做什么

  • 支持 GGUF 格式模型文件的量化
  • 让 flux 等 transformer/DiT 模型在低端 GPU 上运行
  • 使用项目提供的自定义节点支持模型量化
  • 依照提供的安装和使用指南操作

应用场景

  • 开发者在低端 GPU 上部署 flux 模型以实现资源优化
  • 研究人员利用 GGUF 量化提升模型在边缘设备上的表现
  • 教育机构在教授深度学习时把它作为模型优化技巧的案例

上手流程

  • 确保 ComfyUI 版本支持自定义操作
  • 使用 git 克隆 ComfyUI-GGUF 仓库
  • 安装推理所需依赖(pip install --upgrade gguf)
  • 把 .gguf 模型文件放在 ComfyUI/models/unet 文件夹中

优点与缺点

✓ 我们认可的地方

  • 模型文件可以 GGUF 格式存储
  • 附带安装和使用指南

! 需要留意的地方

  • 不包括 LoRA / Controlnet 等支持,因为权重已被量化
  • 资料说明常规 UNET 模型(conv2d)不适用于量化

常见问题

哪些模型适合量化?

资料列出 flux 等 transformer/DiT 模型,并说明常规 UNET(conv2d)模型不适用于量化。

支持 LoRA 和 Controlnet 吗?

功能列表说明因权重已被量化,二者不在支持范围内。

最后评测: 2026-11-15

更多 AI 图像生成 工具

查看全部 →

评测方法