跳到正文

Mistral-Small-Instruct-2409

面向长输入的 22B 指令微调模型

访问官网
分类 AI模型

Mistral-Small-Instruct-2409 是什么

该模型被介绍为 22B 参数的指令式微调模型,面向长文本与复杂指令理解。

你可以用它做什么

  • 处理长达 128k 的序列
  • 从提示中发起函数调用

上手流程

  • 安装 vLLM 与 mistral_common
  • 加载模型并设定参数

优点与缺点

✓ 我们认可的地方

  • 推荐用 vLLM 做生产级推理
  • 支持服务器与客户端设置

! 需要留意的地方

  • 需先安装 vLLM 与 mistral_common
  • 最大令牌数等参数需使用者设定

常见问题

输入能有多长?

资料说明支持长达 128k 的序列。

推荐哪个库?

资料说明生产级推理推荐 vLLM。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法