跳到正文

rStar

用自博弈互推理提升小型语言模型能力

访问官网
分类 AI模型

rStar 是什么

这是一种自我博弈相互推理方法,用于提升小型语言模型的推理能力。它把推理过程拆分为解决方案生成和相互验证两部分。

你可以用它做什么

  • 用蒙特卡洛树搜索生成推理轨迹
  • 用鉴别器 SLM 验证轨迹正确性
  • 改善问答与推理任务的结果

需要留意什么

  • 环境列出 Python 3.10 与 CUDA 12
  • 还列出 PyTorch、transformers 和 vllm
  • 生成通过 run_gsm8k_generator.sh 脚本执行

优点与缺点

✓ 我们认可的地方

  • 无需微调或更高级的模型
  • 在多个 SLMs 上做了实验

! 需要留意的地方

  • 环境要求列出 Python 3.10、CUDA 12 等
  • 生成过程通过 run_gsm8k_generator.sh 脚本运行

常见问题

需要微调吗?

资料说明无需微调,也无需更高级的模型。

推理轨迹如何验证?

由另一个能力相近的 SLM 作为鉴别器验证。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法