资讯 · 趋势
AI 每日资讯：2026 年 11 月 2 日有什么变化
10 条 AI 动态，来自 Reddit r/LocalLLaMA 等来源，以本站原创表述改写并附原文链接。
1. List of tiny-to-medium models for web research/coding agents
一位Reddit用户分享了适合在普通电脑上运行大型语言模型的模型列表，重点在于代理使用场景，无需高性能GPU。该列表按能力排序，包括Qwen 3.8 27B、Qwen 3.6 35B、A3B、Jais 3 7B、Gemma 12B（含视觉）、XHToken/SparkX2.6 4B、FrogNano 4B、Gemma E4B（小型及视觉）、Ling 3.0 Tiny 8B和A1B。用户寻求关于10B参数以下额外小模型的建议，并询问哪些模型应被排除。该帖子邀请社区对列表的准确性与完整性进行反馈。
2. JetBrains/Mellum2.1-12B-A2.5B-Thinking-MTP - Hugging Face
Reddit r/LocalLLaMA 报道了这项 AI 动态，英文原标题为 JetBrains/Mellum2.1-12B-A2.5B-Thinking-MTP - Hugging Face。具体内容请见原文链接。
3. Live-Swap CUDA Workloads: llama.cpp, ComfyUI, Strata & More
Reddit r/LocalLLaMA 报道了这项 AI 动态，英文原标题为 Live-Swap CUDA Workloads: llama.cpp, ComfyUI, Strata & More。具体内容请见原文链接。
4. AMA Announcement: Reflection, the lab behind behind Beam (Tuesday Nov 3rd, 8am-11am PT)
Reddit r/LocalLLaMA 报道了这项 AI 动态，英文原标题为 AMA Announcement: Reflection, the lab behind behind Beam (Tuesday Nov 3rd, 8am-11am PT)。具体内容请见原文链接。
5. The Rise of GLM and China's Zhipu AI
Reddit r/LocalLLaMA 报道了这项 AI 动态，英文原标题为 The Rise of GLM and China's Zhipu AI。具体内容请见原文链接。
6. 8 agents 250K context, concurrently, on two 3090s (~600+ tok/s total)
一名用户在Reddit的r/LocalLLaMA版块分享了使用两块3090显卡同时运行8个编程代理的测试结果，每个代理保持25万トークン的上下文。该方案采用名为dbirks/Qwen3.8-27B-W4A16-AutoRo的模型，通过系统内存保存完整上下文，每步仅通过"关键摘要"访问约1%的トークン以减少数据传输。Triton内核和vLLM补丁通过每步选择前2000个トークン实现稀疏注意力机制。基于内存的KV缓存结合前缀存储和检查点技术，可高效处理后续查询。系统通过隔离高提示负载避免其他代理冻结。所有修改均以补丁形式提供给HyperQwen @ ce9615c，包含基准测试和脚本。该方法旨在平衡长上下文保留与计算效率。
7. LFM3 Omni 2B is INCREDIBLE
Liquid AI分享了一段视频，展示其新推出的全场景模型LFM3 Omni 2B，该模型可在网页浏览器中通过WebGPU运行。视频发布在Hugging Face空间，展示了模型的运行效果。发帖创作者表示对模型能力的描述带有讽刺意味，称生成的回复为“完全的垃圾”。视频时长1分钟，重点呈现了用户/u/rm-rf-rm的输出结果。文中未提供模型性能或功能的具体技术细节。帖子包含视频链接及相关评论，总结体现了创作者对模型输出的批判态度。
8. Do we really need all these "speed" posts?
Reddit r/LocalLLaMA 报道了这项 AI 动态，英文原标题为 Do we really need all these "speed" posts?。具体内容请见原文链接。
9. Sorry Sam, my "quite terrible" home DRAM is at 100% now: patched Strata to make DeepSeek V4.1 agent sessions
用户回应了Sam Altman对个人DRAM使用情况的批评，分享了家庭配置：RX 9070 XT 16 GB显卡、5800X3D处理器、64 GB DDR4内存和PCIe 3.0 NVMe固态硬盘。他们运行DeepSeek V4.1 Flash模型，使用1M上下文，实现了全模型98.7%的任务性能。但遇到提示处理速度慢的问题，新会话读取37K令牌系统提示需要100秒。为此，他们实施了两项改进：KV拼接技术通过将新输入与已保存对话对齐，避免重复读取缓存提示；驻留路由优先使用VRAM和RAM而非SSD进行提示处理。这些更新减少了延迟，使生成速度达到约7个令牌/秒。用户强调在硬件限制下优化本地DRAM使用。该配置完全离线运行，模型专家分布在VRAM、RAM和SSD中。
10. Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model
一位用户在64GB内存和5090显卡上测试了Qwen 3.8 Flash Next NVFP4，切换至Cachy系统以提升性能。Windows 11消耗1.5GB显存和6GB内存，导致解码/前填充速率下降70%。切换至Cachy后，模型实现9000前填充，任务表现优于Qwen 27b并支持视觉适配器。用户称ninfer和密集型27b模型的前填充速率提升2-3倍。其对Qwen 4表示期待，提及可能兼容2块5060/5070/5070ti显卡。用户还强调转换微调模型至Basalt格式的便捷性，并分享了使用Omo堆栈工具的本地配置。其指出100+解码和3000前填充速率在工作中具有实用性。Qwen 4尚未公布官方发布信息。