跳到正文

phixtral-2x2_8

由两个 phi-2 模型组成的混合专家模型

访问官网
分类 AI模型

phixtral-2x2_8 是什么

phixtral-2x2_8 被介绍为一个由两个 microsoft/phi-2 模型制作的混合专家文本生成模型。

你可以用它做什么

  • 用混合专家模型生成文本
  • 在 GPU 上以 4 位精度运行
  • 在所列评估指标上评估模型
  • 在 Colab notebook 中使用

使用示例

  • 在深度学习研究中生成文本
  • 利用模型进行模型评估
  • 以 4 位精度在 GPU 上运行模型

模型说明

  • 架构受 Mixtral-8x7B-v0.1 启发
  • 使用自定义版本的 mergekit 库 mixtral 分支
  • 资料列出 AGIEval、GPT4All、TruthfulQA 与 Bigbench
  • 资料称其性能优于每个单独的专家模型

优点与缺点

✓ 我们认可的地方

  • 可在免费 T4 GPU 上以 4 位精度运行
  • 资料列出 AGIEval、GPT4All、TruthfulQA 与 Bigbench

! 需要留意的地方

  • 模型采用自定义版本的 mergekit 库
  • 列出的指标为评估集合

常见问题

模型有多大?

资料说明为 4.46B 参数,张量类型 F16。

可以在哪里运行?

资料列出 Colab notebook 的免费 T4 GPU,以 4 位精度运行。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法