论文解读

从会议录音的忽大忽小出发，拆解 SE-AGCNet 如何用双目标数据、非对称损失和端到端训练，让降噪保住轻声、增益控制均衡响度，并看懂真实会议实验的收益与边界。

一份技术报告的分数表，真正读得懂的人不多：OpenAudioBench 的 Overall 是怎么平均出来的、Full-Duplex-Bench 的接管率在什么窗口里数、τ-Voice 的任务成功为什么要看数据库、VoiceChat 的 Spoken 和 Rubric 为什么一升一降。这篇把 Qwen-Audio-3.1-Realtime 报告用到的三十多个测试集逐个拆开：每个是什么、一道题长什么样、分数怎么算、报告里的数字该怎么读。

语音助手能秒回不等于靠得住：它还得记住你一路加的约束、会调工具、看得懂执行反馈、知道什么时候该闭嘴。Qwen-Audio-3.1-Realtime 把这些拆成 Think、Act、Speak and Coordinate 三层：用 M²-OPD 把文本模型的智力搬到耳朵里，用自进化的可执行环境和三种粒度的 GRPO rollout 教它动手，再用一套「怎么说 · 何时说 · 该不该说」的对话策略管住嘴。这篇带公式、带伪代码、带十张图，把技术报告拆开讲一遍。

统一音频模型的老大难：理解要压缩、生成要保真，一份表征两头难讨好。小红书 FireRed 团队的 FireRedAudio 给 9B LLM 配了两副解耦的连续「耳朵」——Whisper 系编码器负责听懂，确定性自编码器 RedAE 负责存声——嘴则是流匹配 DiT，直接吐连续 latent，声学内容全程不过离散 token。MMAU/MMSU 登顶、零样本 TTS 内容错误率最低、语音编辑全面反超，还能把一小时录音整理成秒级时间戳的结构化清单。

复现难、数据糙，是横在开源语音生成面前的两道坎。港中深同一个团队用两篇 SLT 2024 论文各拆一道：Amphion 把散落的模型收进一个分层工具箱，用追平官方指标的 VALL-E 复现立信；Emilia-Pipe 用六步全开源流水线把野生播客洗成 101k 小时、六种语言的数据集，后来喂出了 MaskGCT 和 Vevo。这篇把两份工作连起来读：架构怎么分层、数据怎么清洗、账本怎么算，以及这套基建两年后长成了什么样。

TTS 界也有自己的 bitter lesson：好 tokenizer + 自回归 + 大规模预训练，不堆级联、不请老师。OpenMOSS 在同一套 token、同一份数据上正面对比 Delay Pattern 与 Local Transformer 两种 token 编排——8B 与 1.7B 各擅胜场；数百万小时的清洗流水线加四阶段课程表，让时长控制与拼音控制成了预训练白送的能力。这篇拆解整份技术报告，顺带看懂全家桶与部署生态。

TTS 厂商都说自己「一句话就能控制风格」，但真听懂了吗？复旦 InstructTTSEval 出了三道从具体到抽象的考题——逐项声学参数、自然风格描述、只给角色场景——中英各 1000 题、Gemini 判卷。结果闭源大幅领先开源但都离真人很远，考场花絮更有意思：没有模型会叹气，会笑的只有三家，童声反而是开源赢。

Moshi 开创的「codec 进词表」路线有一笔绕不开的智能税：语音 token 挤占词表、模态鸿沟吞噬文本知识。2025–2026 年的两个回应殊途同归——清华与字节的 SALMONN-omni 把 codec 彻底请出 LLM，用连续嵌入直连编码器与合成器；腾讯的 Covo-Audio 折中为「连续进、离散出」的混合双流，把全双工塞进预训练。两家还共享同一个信条：状态切换不需要外挂模块，、、BREAK——你的 LLM 偷偷就是个全双工预测器。这篇一次拆两个。

Moshi 为全双工改了架构——双 Transformer、声学延迟、17 条并行流；阿里通义实验室的 OmniFlatten 反其道而行：标准 GPT 一行不改，把用户和助手的语音、文字全部摊平进一条序列，用「模态对齐 → 半双工 → 全双工三流 → 两流」四步课程渐进逼近全双工。0.5B 的 Qwen2 底座、全合成的对话数据、块级交错的伪并行——这篇拆解它的每一步取舍，包括那个诚实的负结果：去掉文字流，语义就崩。

与 Moshi 几乎同时，上海交大 X-LANCE 与字节跳动的 LSLM 用一个 106M 参数的小模型回答了一个最小问题：模型能不能一边说话一边听？说话通道是单码本的 token TTS，听觉通道是流式 SSL 的连续嵌入，词表里加一个 IRQ token 表示「我被打断了」。三种融合位置的对比给出干净结论：early 毁掉语音生成、late 分不清噪声与人声、middle 恰到好处——这篇把这个全双工的解剖标本拆开讲透。