LLaMA-Omni 是什么
LLaMA-Omni 被介绍为一个基于 Llama-3.1-8B-Instruct 构建的低延迟端到端语音交互模型。它以 GPT-4o 级别的语音能力为目标,并同时生成文本与语音响应。
你可以用它做什么
- 进行低延迟的语音对话
- 同时生成文本和语音
- 通过 Gradio 演示体验模型
- 运行本地推理脚本
需要留意什么
- 训练用了 4 个 GPU、不到 3 天
- 资料说明延迟低至 226 毫秒
- 资料列出两个模型的下载
优点与缺点
✓ 我们认可的地方
- 提供 Gradio 演示
- 附带本地推理脚本
! 需要留意的地方
- 安装需要额外的依赖库
- 资料列出两个需要下载的模型
常见问题
延迟有多低?
资料说明延迟低至 226 毫秒。
基于什么构建?
资料说明它基于 Llama-3.1-8B-Instruct 构建。
最后评测: 2026-11-15