语音

从会议录音的忽大忽小出发，拆解 SE-AGCNet 如何用双目标数据、非对称损失和端到端训练，让降噪保住轻声、增益控制均衡响度，并看懂真实会议实验的收益与边界。

一份技术报告的分数表，真正读得懂的人不多：OpenAudioBench 的 Overall 是怎么平均出来的、Full-Duplex-Bench 的接管率在什么窗口里数、τ-Voice 的任务成功为什么要看数据库、VoiceChat 的 Spoken 和 Rubric 为什么一升一降。这篇把 Qwen-Audio-3.1-Realtime 报告用到的三十多个测试集逐个拆开：每个是什么、一道题长什么样、分数怎么算、报告里的数字该怎么读。

语音助手能秒回不等于靠得住：它还得记住你一路加的约束、会调工具、看得懂执行反馈、知道什么时候该闭嘴。Qwen-Audio-3.1-Realtime 把这些拆成 Think、Act、Speak and Coordinate 三层：用 M²-OPD 把文本模型的智力搬到耳朵里，用自进化的可执行环境和三种粒度的 GRPO rollout 教它动手，再用一套「怎么说 · 何时说 · 该不该说」的对话策略管住嘴。这篇带公式、带伪代码、带十张图，把技术报告拆开讲一遍。

统一音频模型的老大难：理解要压缩、生成要保真，一份表征两头难讨好。小红书 FireRed 团队的 FireRedAudio 给 9B LLM 配了两副解耦的连续「耳朵」——Whisper 系编码器负责听懂，确定性自编码器 RedAE 负责存声——嘴则是流匹配 DiT，直接吐连续 latent，声学内容全程不过离散 token。MMAU/MMSU 登顶、零样本 TTS 内容错误率最低、语音编辑全面反超，还能把一小时录音整理成秒级时间戳的结构化清单。

复现难、数据糙，是横在开源语音生成面前的两道坎。港中深同一个团队用两篇 SLT 2024 论文各拆一道：Amphion 把散落的模型收进一个分层工具箱，用追平官方指标的 VALL-E 复现立信；Emilia-Pipe 用六步全开源流水线把野生播客洗成 101k 小时、六种语言的数据集，后来喂出了 MaskGCT 和 Vevo。这篇把两份工作连起来读：架构怎么分层、数据怎么清洗、账本怎么算，以及这套基建两年后长成了什么样。

全双工语音模型聊天越来越顺，但都不会「办事」：工具调用是暂停—等待—恢复，而全双工的世界没有暂停键。NVIDIA 的 NemotronLabs VoiceChat 11B 是第一个支持工具调用的开源全双工模型：流式编码器加 9B Nemotron Nano v2 加帧同步 TTS，四条通道踩着 80 毫秒的节拍并行推进，第四条通道专门吐 TOOLCALL，等待 API 返回时 agent 还能说一句「稍等，我查一下」。这篇从模型架构、打断机制一路拆到 Triton 加双 vLLM 的推理容器，看全双工怎么从 demo 走向能干活的语音 agent。

TTS 界也有自己的 bitter lesson：好 tokenizer + 自回归 + 大规模预训练，不堆级联、不请老师。OpenMOSS 在同一套 token、同一份数据上正面对比 Delay Pattern 与 Local Transformer 两种 token 编排——8B 与 1.7B 各擅胜场；数百万小时的清洗流水线加四阶段课程表，让时长控制与拼音控制成了预训练白送的能力。这篇拆解整份技术报告，顺带看懂全家桶与部署生态。

TTS 厂商都说自己「一句话就能控制风格」，但真听懂了吗？复旦 InstructTTSEval 出了三道从具体到抽象的考题——逐项声学参数、自然风格描述、只给角色场景——中英各 1000 题、Gemini 判卷。结果闭源大幅领先开源但都离真人很远，考场花絮更有意思：没有模型会叹气，会笑的只有三家，童声反而是开源赢。

语音 agent 抢话的根源，是它拿静音时长猜「你说完没」。Pipecat 的 Smart Turn 用一个 8 MB 的模型直接听音频做判断：Whisper Tiny 编码器 + 注意力池化 + 三层分类头，CPU 上十几毫秒出结果，权重、数据、训练代码全部开源。这篇拆它的架构、三代演进、合成数据流水线，以及它在 VAD 之上怎么组成双保险。

Moshi 开创的「codec 进词表」路线有一笔绕不开的智能税：语音 token 挤占词表、模态鸿沟吞噬文本知识。2025–2026 年的两个回应殊途同归——清华与字节的 SALMONN-omni 把 codec 彻底请出 LLM，用连续嵌入直连编码器与合成器；腾讯的 Covo-Audio 折中为「连续进、离散出」的混合双流，把全双工塞进预训练。两家还共享同一个信条：状态切换不需要外挂模块，、、BREAK——你的 LLM 偷偷就是个全双工预测器。这篇一次拆两个。