分类 AI模型
标签 AI 模型
longrope 是什么
LongRoPE 被介绍为微软推出的上下文扩展技术,把预训练模型的窗口扩大到 2048k 令牌。
你可以用它做什么
- 把短上下文模型扩展到长上下文
- 支撑长文本上的机器阅读理解
需要留意什么
- 资料列出的功能是窗口扩展、低成本微调与短上下文保持
- 工作从预训练的大型语言模型出发
优点与缺点
✓ 我们认可的地方
- 资料说明原有短上下文性能得到保持
- 资料称训练成本与时间有所降低
! 需要留意的地方
- 方法从预训练语言模型出发
- 资料列出的任务集中在阅读理解、摘要与长篇文章
常见问题
窗口有多大?
资料说明扩展到 2048k,即 200 万令牌。
什么被保留下来?
资料说明原有短上下文窗口的性能会保持。
最后评测: 2026-11-15
更多 大模型 API 平台 工具
查看全部 →-
302.AI 把数百个大模型收在一个 API 后面的聚合云平台 开发者工具 API 集成 多模型平台 模型部署 大模型 API 平台 -
360智脑开放平台 360 大模型 API 平台 API 集成 多模型平台 知识库问答 企业自动化 大模型 API 平台 -
4o Image API 图像生成 API 网关 免费 工具 免费增值 工具 开发者工具 API 集成 大模型 API 平台 -
AI-Flow 无代码的多模型工作流 工作流自动化 开发者工具 API 集成 知识库问答 大模型 API 平台 -
AI/ML API 一个网关接入众多模型 开发者工具 API 集成 多模态 多模型平台 大模型 API 平台 -
Amazon Bedrock 带安全扫描的 AWS 代码建议 免费 工具 代码助手 集成开发环境 应用搭建器 大模型 API 平台