量语音助手的三十多把尺子:Qwen-Audio-3.1-Realtime 报告里的每个测试集,测什么、题长什么样、分怎么算

一份技术报告的分数表,真正读得懂的人不多:OpenAudioBench 的 Overall 是怎么平均出来的、Full-Duplex-Bench 的接管率在什么窗口里数、τ-Voice 的任务成功为什么要看数据库、VoiceChat 的 Spoken 和 Rubric 为什么一升一降。这篇把 Qwen-Audio-3.1-Realtime 报告用到的三十多个测试集逐个拆开:每个是什么、一道题长什么样、分数怎么算、报告里的数字该怎么读。

2026年9月24日 · 49 分钟 · 24305 字

低延迟只是及格线:Qwen-Audio-3.1-Realtime 怎么教语音助手想清楚、动手做、知分寸

语音助手能秒回不等于靠得住:它还得记住你一路加的约束、会调工具、看得懂执行反馈、知道什么时候该闭嘴。Qwen-Audio-3.1-Realtime 把这些拆成 Think、Act、Speak and Coordinate 三层:用 M²-OPD 把文本模型的智力搬到耳朵里,用自进化的可执行环境和三种粒度的 GRPO rollout 教它动手,再用一套「怎么说 · 何时说 · 该不该说」的对话策略管住嘴。这篇带公式、带伪代码、带十张图,把技术报告拆开讲一遍。

2026年9月22日 · 28 分钟 · 13724 字

一句话掷几个骰子:ms-swift 里 GRPO、GSPO 与 GSPO-token 的三种重要性比

ms-swift 训 GRPO 时有一个不起眼的参数 importance_sampling_level,三个取值 token、sequence、sequence_token 对应 GRPO、GSPO 和 GSPO-token。它们的分歧只在一处:新旧策略的比率按 token 算还是按整句算,梯度顺着比率流到谁身上。这篇用一组真实的 8 条 ASR 采样算优势,用一句四个 token 的例子把三种模式的裁剪和梯度逐个算出来,最后说清楚 sequence_token 在什么情况下才和 sequence 不同。

2026年9月11日 · 18 分钟 · 8725 字

看过答案的自己教没看过答案的自己:深入浅出 OPSD 在线自蒸馏

做错题后翻答案复盘,是最常见的学习方式;OPSD 把它搬进 LLM:同一个模型,看过参考解的当老师、没看过的当学生,老师在学生自己写的每个 token 上逐字批注。不需要外部大模型,不需要奖励函数,1024 token 的短采样追平 8 × 16k 的 GRPO。这篇拆开它的目标函数、两个稳定器和策略梯度视角,带数字算一遍裁剪到底裁掉了什么,也聊聊后来者的质疑。

2026年9月4日 · 18 分钟 · 8965 字

一颗脑袋,两副耳朵:深入浅出 FireRedAudio

统一音频模型的老大难:理解要压缩、生成要保真,一份表征两头难讨好。小红书 FireRed 团队的 FireRedAudio 给 9B LLM 配了两副解耦的连续「耳朵」——Whisper 系编码器负责听懂,确定性自编码器 RedAE 负责存声——嘴则是流匹配 DiT,直接吐连续 latent,声学内容全程不过离散 token。MMAU/MMSU 登顶、零样本 TTS 内容错误率最低、语音编辑全面反超,还能把一小时录音整理成秒级时间戳的结构化清单。

2026年8月31日 · 18 分钟 · 8979 字

「稍等,我查一下」:深入拆解会调工具的全双工模型 NemotronLabs VoiceChat

全双工语音模型聊天越来越顺,但都不会「办事」:工具调用是暂停—等待—恢复,而全双工的世界没有暂停键。NVIDIA 的 NemotronLabs VoiceChat 11B 是第一个支持工具调用的开源全双工模型:流式编码器加 9B Nemotron Nano v2 加帧同步 TTS,四条通道踩着 80 毫秒的节拍并行推进,第四条通道专门吐 TOOLCALL,等待 API 返回时 agent 还能说一句「稍等,我查一下」。这篇从模型架构、打断机制一路拆到 Triton 加双 vLLM 的推理容器,看全双工怎么从 demo 走向能干活的语音 agent。

2026年8月18日 · 18 分钟 · 8911 字

同一份乐谱的两种弹法:深入浅出 MOSS-TTS

TTS 界也有自己的 bitter lesson:好 tokenizer + 自回归 + 大规模预训练,不堆级联、不请老师。OpenMOSS 在同一套 token、同一份数据上正面对比 Delay Pattern 与 Local Transformer 两种 token 编排——8B 与 1.7B 各擅胜场;数百万小时的清洗流水线加四阶段课程表,让时长控制与拼音控制成了预训练白送的能力。这篇拆解整份技术报告,顺带看懂全家桶与部署生态。

2026年8月18日 · 19 分钟 · 9206 字

最贵的一层:深入浅出 Liger Kernel 与 Cut Cross-Entropy

微调一个 2B 小模型也能 OOM?大词表时代,显存大头不是权重也不是注意力,而是交叉熵前那个「几万 token × 几十万词表」的 logits 矩阵,还一物多份。拆解两把砍掉它的刀——Liger Kernel 的分块融合 FLCE 与 Apple 的 Cut Cross-Entropy,附实操代码、一版讲透 use_reentrant 的纯 PyTorch 手写实现,以及昇腾 NPU 支持现状。

2026年8月6日 · 16 分钟 · 7551 字

你的 LLM 偷偷是个全双工预测器:双拆 SALMONN-omni 与 Covo-Audio

Moshi 开创的「codec 进词表」路线有一笔绕不开的智能税:语音 token 挤占词表、模态鸿沟吞噬文本知识。2025–2026 年的两个回应殊途同归——清华与字节的 SALMONN-omni 把 codec 彻底请出 LLM,用连续嵌入直连编码器与合成器;腾讯的 Covo-Audio 折中为「连续进、离散出」的混合双流,把全双工塞进预训练。两家还共享同一个信条:状态切换不需要外挂模块,、、BREAK——你的 LLM 偷偷就是个全双工预测器。这篇一次拆两个。

2026年8月2日 · 14 分钟 · 6719 字

不改模型,改数据:深入拆解 OmniFlatten

Moshi 为全双工改了架构——双 Transformer、声学延迟、17 条并行流;阿里通义实验室的 OmniFlatten 反其道而行:标准 GPT 一行不改,把用户和助手的语音、文字全部摊平进一条序列,用「模态对齐 → 半双工 → 全双工三流 → 两流」四步课程渐进逼近全双工。0.5B 的 Qwen2 底座、全合成的对话数据、块级交错的伪并行——这篇拆解它的每一步取舍,包括那个诚实的负结果:去掉文字流,语义就崩。

2026年8月2日 · 11 分钟 · 5444 字