跳到正文

Infini-attention

扩展 Transformer 模型处理无限长输入

访问官网
分类 AI模型

Infini-attention 是什么

Infini-attention 被介绍为 Google 开发的技术,通过压缩记忆机制把基于 Transformer 的大语言模型扩展到无限长输入。

你可以用它做什么

  • 结合局部与长期注意力
  • 以流式方式处理输入
  • 进行快速流式推理

实验涉及的任务

  • 列出长上下文语言建模
  • 列出密钥上下文块检索
  • 列出书籍摘要任务

优点与缺点

✓ 我们认可的地方

  • 具备流式处理能力
  • 资料提到模型扩展性

! 需要留意的地方

  • 长输入依赖压缩记忆机制
  • 流式推理属于方案设计的一部分

常见问题

由谁开发?

资料说明这项技术由 Google 开发。

哪些任务上有实验结果?

资料列出长上下文语言建模、密钥上下文块检索和书籍摘要任务。

最后评测: 2026-11-15

更多 大模型 API 平台 工具

查看全部 →

评测方法