分类 AI模型
标签 AI 模型
Yuan2-M32-hf-int4 是什么
Yuan2.0-M32 被介绍为采用注意力路由器的混合专家语言模型,以更高效的方式选择专家。
你可以用它做什么
- 用推荐的 docker 镜像启动容器
- 按文档说明进行数据预处理
- 运行预训练脚本并参考 vllm 部署推理服务
优点与缺点
✓ 我们认可的地方
- 总参数 40 亿中只有 3.7 亿活跃参数
- 在 MATH 和 ARC-Challenge 基准上超越 Llama3-70B
! 需要留意的地方
- 配置与部署流程面向技术使用者
- 推理服务部署需参考 vllm 的详细计划
常见问题
有多少专家处于活跃状态?
资料说明 32 个专家中有 2 个处于活跃状态。
训练数据量是多少?
资料说明从头开始训练,使用了 2000 亿个 token。
最后评测: 2026-11-15
更多 大模型 API 平台 工具
查看全部 →-
302.AI 把数百个大模型收在一个 API 后面的聚合云平台 开发者工具 API 集成 多模型平台 模型部署 大模型 API 平台 -
360智脑开放平台 360 大模型 API 平台 API 集成 多模型平台 知识库问答 企业自动化 大模型 API 平台 -
4o Image API 图像生成 API 网关 免费 工具 免费增值 工具 开发者工具 API 集成 大模型 API 平台 -
AI-Flow 无代码的多模型工作流 工作流自动化 开发者工具 API 集成 知识库问答 大模型 API 平台 -
AI/ML API 一个网关接入众多模型 开发者工具 API 集成 多模态 多模型平台 大模型 API 平台 -
Amazon Bedrock 带安全扫描的 AWS 代码建议 免费 工具 代码助手 集成开发环境 应用搭建器 大模型 API 平台