跳到正文

LLaMA-Omni

低延迟语音交互,同时输出文本与语音

访问官网

LLaMA-Omni 是什么

LLaMA-Omni 被介绍为一个基于 Llama-3.1-8B-Instruct 构建的低延迟端到端语音交互模型。它以 GPT-4o 级别的语音能力为目标,并同时生成文本与语音响应。

你可以用它做什么

  • 进行低延迟的语音对话
  • 同时生成文本和语音
  • 通过 Gradio 演示体验模型
  • 运行本地推理脚本

需要留意什么

  • 训练用了 4 个 GPU、不到 3 天
  • 资料说明延迟低至 226 毫秒
  • 资料列出两个模型的下载

优点与缺点

✓ 我们认可的地方

  • 提供 Gradio 演示
  • 附带本地推理脚本

! 需要留意的地方

  • 安装需要额外的依赖库
  • 资料列出两个需要下载的模型

常见问题

延迟有多低?

资料说明延迟低至 226 毫秒。

基于什么构建?

资料说明它基于 Llama-3.1-8B-Instruct 构建。

最后评测: 2026-11-15

更多 AI 音频工具 工具

查看全部 →

评测方法