跳到正文
10月12日周一
  1. MarkTechPost42

    TII 发布 Falcon-ASR:1.6B 阿拉伯语语音模型,平均 WER 20.92%

    阿布扎比 TII 发布 1.6B 参数的阿拉伯语语音识别模型 Falcon-ASR,在 6 个阿拉伯语测试集上平均 WER 为 20.92%,比 Audar-ASR-V1-Turbo 的 23.17% 低 2.25 个百分点,在 TII 自建阿联酋方言测试集上比 30B 的 Qwen3-Omni 低 4.07 个百分点。该模型一套权重覆盖阿拉伯语(含阿联酋方言)、英语、法语、西班牙语和葡萄牙语,并输出词级时间戳,但目前仅提供 Hugging Face 演示(限 60 秒、20 MB),未公开权重、许可证和 API,所有成绩均为 TII 自评。

  2. MarkTechPost26

    2026 年 12 款 AI 实时翻译工具盘点:延迟、语言与定价

    MarkTechPost 对照官方产品、定价与文档页面,盘点了 12 款 AI 实时翻译工具,覆盖消费级应用、会议插件、活动平台和开发者 API。Palabra.ai 宣称延迟低于 1 秒,API 语音到语音每分钟 0.04 美元;Google Gemini 3.5 Live Translate 支持 70+ 种语言,Apple Live Translation 完全在设备端运行。各工具语言数量口径不一,需按自身语言对实测。

  3. arXiv eess.AS37

    BELLE:可学习多位教师的贝叶斯语音合成器

    针对 TTS 一对多问题,BELLE 在 MELLE 等连续值自回归 TTS 架构上为每帧 mel 频谱的均值和方差引入贝叶斯先验并由输入预测,同时保持单次采样。由于估计方差需同一文本的多条录音,作者构建了真实录音 ParallelVox 与在 LibriSpeech 上加入六个预训练 TTS 教师语音的 LS+6TTS。相同训练条件下 BELLE 优于 MELLE,并支持流式生成。

  4. arXiv eess.AS31

    SENSE:通过空间图编码从脑电动力学实现语义神经语音合成

    研究者提出 SENSE(Semantic-EEG Neural Speech SynthEsis),用基于电极几何的图编码器结合 EEG 语义条件(ESC),将 EEG 对齐到预训练语义空间,从非侵入式脑信号合成语音。在 N400 数据集上,SENSE 在声学与语义指标上均优于此前方法;仅用两名受试者训练,其词错误率已超过用全部十八名受试者训练的最强基线。

  5. arXiv eess.AS35

    通过 Adapter 唤醒编码器:Speech-LLM 的领域自适应微调方法 EAVA

    针对 Speech-LLM 在儿童或方言等域偏移语音上适应不足的问题,研究者提出领域自适应微调方法 EAVA:先在各编码器层插入轻量 Adapter 单独训练,再结合 LLM 上的 LoRA 联合微调全模型。在三个域偏移 ASR 数据集上,EAVA 持续优于常规微调及其他基线,取得新的最优性能。

  6. arXiv eess.AS42

    重新思考 LLM-based ASR 中的熵分配:理解语音编码器与 LLM 之间的动态关系

    研究从熵分配视角重新审视 LLM-based ASR,提出三项指标刻画训练范式如何在语音编码器与 LLM 之间分配熵减,并据此设计基于能力边界感知的多阶段训练策略。该方法重新设计预训练以缓解语音-文本模态差距,并在对齐与联合 SFT 之间引入迭代异步 SFT 阶段以保持功能解耦、抑制编码器表征漂移。在普通话和英语基准上,仅用 2.3B 参数即达到与 SOTA 模型相当的性能,并有效缓解幻觉。

  7. arXiv eess.AS31

    利用 TTS 与语音转换增强语音识别:呼叫中心银行领域 ASR 合成数据评测

    针对呼叫中心银行领域 ASR 训练数据不足的问题,研究对比了 TTS 与 KNNVC、Seed-VC、Vec2Wav2 等语音转换方法,以 WER 和 CER 为指标评估合成数据对识别性能的影响。结果显示语音质量和 ASR 准确率均有显著提升,其中 Seed-VC 表现尤为突出,表明语音转换技术可有效增强 ASR 系统。

  8. arXiv eess.AS44

    EAGLE-ASR:基于 EAGLE 风格投机解码的 ASR 无损推理加速

    EAGLE-ASR 通过 EAGLE 风格投机解码加速 ASR 推理,同时严格保持无损输出质量。其 Speech-Draft 轻量自回归模块联合利用编码器声学特征与目标 ASR 模型的分层解码器表示,配合多步生成策略和自蒸馏数据训练。在 Whisper 与 Conformer AED 模型上分别实现最高 1.9 倍和 2.4 倍无损加速,并泛化至多语言 ASR 与语音翻译任务。

  9. arXiv eess.AS36

    LATTE:面向音频 LLM 的音韵感知说话人提取前端

    研究者提出轻量前端 LATTE(5.2M 参数),通过声学难度估计器、任务自适应音韵先验和自适应 Hourglass 提取器,在推理时无需语言标识即可为每个混合语音分配计算量。在 PolyExtract 上,LATTE 以 0.30 GFLOPs 达到 15.07 dB 的 macro SI-SNRi,性能与 0.53 GFLOPs 固定深度模型相差 0.09 dB 以内,同时计算量减少 43.4%,并将平均 WER 从 TF-GridNet 的 16.8% 降至 14.6%。

  10. arXiv eess.AS60

    Oído:在 5 美元 ESP32-S3 微控制器上运行开放词表语音识别

    论文提出 Oído 推理引擎,在无神经网络加速器的 ESP32-S3(240 MHz 双核 Xtensa LX7、512 KB SRAM、8 MB PSRAM、16 MB flash)上运行开放词表英语语音识别,执行 13M 参数 Conformer-CTC 模型,采用 int8 权重、逐帧动态 int8 激活和 int8 注意力。在 LibriSpeech test-clean/test-other 上端侧算术达到 3.70%/8.23% WER,与全精度相差 0.12 个百分点;加片上 1.3M 参数语言模型后为 3.33%/7.15%,transducer 头为 2.99%/6.67%,int4 变体占用 8.3 MB。实测固件单核运行耗时为音频时长的 1.97 倍,尚不能实时,双核调度在芯片上结果错误已禁用;流式变体在 3.6-10.6 s 片段上于结束后 4.1-11.1 s 输出最终文本,WER 为 4.86%/11.03%。代码与模型已发布。

  11. arXiv eess.AS31

    OpenPA:无需强制对齐的多粒度发音评估框架,支持混合转写自适应

    OpenPA 是一种无需强制对齐的自动发音评估框架,利用 Whisper 的交叉注意力机制同时预测词级和语句级发音得分。它通过混合转写自适应与自适应替换加权,在单一模型中兼容封闭与开放回答场景的异构转写,仅用 speechocean762 训练即在域内封闭和模拟开放条件下取得最优整体表现,并在 MultiPA 上保持零样本性能。

  12. arXiv eess.AS25

    重新审视基于 DistilHuBERT 的口音分类:说话人分离评估与跨语料库泛化

    一项基于 DistilHuBERT 的口音分类研究显示,文件级划分会显著高估模型性能,说话人分离评估才能更真实反映对未见说话人的泛化能力。研究使用 L2-ARCTIC 及多个外部英语口音数据集对比发现,仅用外部数据训练的模型无法可靠泛化到 L2-ARCTIC,均衡外部数据训练在监督设置中表现最好,而仅靠置信度过滤的伪标签在域不匹配下效果不足。

  13. arXiv eess.AS27

    金融语音需要持续学习正则化吗?EWC 与 mini-KFAC 在财报电话会议 ASR 上的研究

    将 Whisper-small 从通用语音语料适配到 Earnings22 基准时,所有评估方法在同域金融语音上均出现性能提升而非遗忘,任务互补性使正则化反而有害。若确需正则化,逐层 mini-KFAC 近似比标准对角 EWC 取得更低 WER 和更稳定的优化。研究建议先评估任务互补性再施加持续学习约束,必要时优先选用 mini-KFAC EWC。

  14. arXiv eess.AS29

    面向 SLT2026 SmartGlasses Challenge 的前端辅助大型音频语言模型

    针对 SmartGlasses Challenge 赛道一的时间戳说话人归属 ASR 任务,参赛系统采用多模态大语言模型 SoulX-Transcriber,直接输入全长音频并生成结构化转写。为应对双人对话中的重叠语音、背景噪声和远场条件,引入基于规则的引导式源分离与数据驱动语音分离两种前端处理,均在验证集上带来提升。考虑推理稳定性,最终提交使用微调后的 SoulX-Transcriber,测试集 tcpCER 为 6.22。

  15. arXiv eess.AS40

    E3-System:可显式控制、易用的表达性零样本 TTS 框架

    E3-System 是一个面向表达性零样本 TTS 的意图到语音统一框架,可在给定目标说话人和自然语言风格描述或语音风格提示时,生成保留目标音色的表达性语音。它通过千小时多语言情感语音数据集 EmoData、将文本描述对齐为声学风格提示的 Style-RAG,以及借助 VC 增强音色-风格解耦的 Dual-TTS,打通从风格建模到可控合成的完整控制闭环。实验显示其在语音质量、说话人保持和显式表达控制上表现良好。

10月2日周五
  1. Boson AI Blog48

    Higgs TTS 3 在 Hume 语音复刻榜单位列第四,口音参考音得分最高

    Boson AI 的 Higgs TTS 3 在 Hume AI 语音复刻榜单中位列 11 个模型第四,口音参考音得分 4.28 为全场最高,略高于 VoxCPM2,并领先 Fish Audio S2 Pro、ElevenLabs v3 和 ElevenLabs Multilingual v2。该评测由三名人工评分者在不知模型来源的情况下按 1 至 5 分打分,测试集含 25 个参考音,其中 15 个带不同口音、9 个来自非英语母语者。Higgs TTS 3 的 Same Speaker 得分为 3.83,客观相似度 0.74 并列第三,音质 4.38 与最高分相差 0.23。该模型为开放权重,已在 Hugging Face 上线,上月下载量接近 10 万次,并可通过 Higgs TTS API 使用。

9月30日周三
9月25日周五
  1. 论文与标准70

    实时语音 Agent 评估综述:从组件级质量指标走向任务落地结果

    综述系统梳理实时语音 Agent 的评测谱系:从 ASR/TTS 组件指标,到 VoiceBench、Full-Duplex-Bench v1.5/v2 等会话行为基准(覆盖重叠、打断、多轮与多说话人),再到以状态校验和任务完成为准的 agentic 评测,指出评估重心正从"系统说了什么"转向"在真实对话约束下做了什么"。

    推荐理由:语音 Agent 评估方向的系统性综述,为搭建评测体系提供完整地图。

  2. 论文与标准66

    Duplex-MPE:2000 场景评测全双工模型多人交互

    该基准构造 2000 个由 3–4 名真人说话者加一个助手组成的场景,以连续音频流(无转写、无轮次边界)评测助手的应答发起、答案准确、保持沉默与适时停说四项能力,并覆盖显式/隐式指涉配对;对 MiniCPM-o 4.5、Moshi、FLM-Audio、Voila、Freeze-Omni 五个开源系统的评测显示 MiniCPM-o 4.5 在三项能力上领先。

    推荐理由:把全双工评测从双人对话推进到多方交互,直指语音 Agent 在群聊场景的核心缺陷。

9月24日周四
  1. Hume AI Blog40

    Google Gemini 3.8 Flash TTS 登顶 Hume 真实世界 VoiceEQ 榜单

    Hume 对 Google Gemini 3.8 Flash TTS 与 Gemini 3.8 Flash-Lite TTS 预览版进行独立评测,两款模型分列 Expressivity–Reliability 前沿评分第一、第二,达 0.920 和 0.914。相比 Gemini 3.1 Flash TTS,长文本稳定性得分从 1.22 升至 2.89 和 3.03(五分制),语音设计可控性领先,但说话人相似度与部分精细控制仍偏弱。

9月18日周五
  1. 论文与标准66

    NemotronLabs VoiceChat:带原生工具调用的开源全双工语音到语音模型

    论文提出开源全双工语音到语音模型 NemotronLabs VoiceChat,把流式语音编码器、仅解码器语言模型、并行的 agent 文本与结构化函数调用输出流、用于增量转写用户语音的辅助 RNN-T 分支以及流式 TTS 解码器统一在一个流式架构中,使模型能同时听、转写、推理、调工具与说话。在 Full-Duplex-Bench 1.0 上取得所评测开放权重系统中最低的停顿处理接管率、用户打断后 100% 接管与 4.33/5 的打断后回复质量分;FDB 1.5 上回信道(backchannel)后 93% 恢复回复;VoiceBench 归一化均分 55.1,FDB 3.0 工具选择 F1 为 82.5%,但参数准确率与端到端工具执行仍是待改进项。

    推荐理由:把全双工对话、流式转写与工具调用整合进单一开源语音模型的代表工作,给出完整基准数据。

9月17日周四
  1. Hume AI Blog62

    Hume 发布语音可控性排行榜,评测 17 个 TTS 模型

    Hume 发布 Voice Controllability Leaderboard,从语音设计、语音指令和角色契合三个维度评测 17 个 TTS 模型,采用数万条人工评分而非 LLM 评委,理由是后者可能因数据泄漏抬高分数。结果显示没有单一模型在所有可控性维度领先:Google 与 ElevenLabs 总体领先但各有短板,开源模型在语音设计上仍有竞争力;性别平均准确率 97.87%,年龄仅 51.8%,讽刺是最难传达的语气。

    推荐理由:榜单用数万条人工评分对比 17 个语音模型的可控性,并指出 LLM 评委可能因数据泄漏抬高分数。

  2. 论文与标准57

    Voice-Light:带因果话轮与投机生成的全双工级联语音 Agent

    论文提出全双工级联语音 Agent Voice-Light,组合即时声学起始检测、与流式 ASR 编码器共享的因果适配器、可逆播放控制和私有的投机回复生成,使结构化工具调用可与桥接语音并发执行,且被取消的音频不会进入对话历史(浏览器端回执让已播放音频成为权威记录)。在 1673 条真实对话静音候选上的锁定评测显示:学习式完结检查点仅 12.53% 话轮结束召回、误截断率 2.70%,而 Silero 时序策略召回 95.60%,因此线上保留混合控制器而非替换为学习策略;三次非脚本化麦克风会话中 36 个回复轮次的中位响应为 758ms(21 轮低于 800ms),作者声明这属于插桩案例研究而非受控用户评测。

    推荐理由:少见的公开负面结果与可复现工程细节,说明级联全双工中学习式话轮判断的真实局限。

9月14日周一
  1. Tavus Blog71

    Tavus 发布 Sparrow-2 对话理解模型,在 TurnBench 轮次切换两项任务上领先

    Tavus 发布音频原生、流式优先的多语言对话理解模型 Sparrow-2,不再依赖降噪和静音计时器,而是保留并分类背景语音、噪声、反馈语和打断等信号,联合建模语义、韵律与说话人身份。在独立基准 TurnBench 的公开 dev split(38 段对话、7.3 小时音频)上,它取得 92.4% 的轮次结束召回和 97.4% 的打断召回,是唯一同时领先两项任务的系统,中位决策延迟 632 ms,7.6% 的轮次结束未被响应。模型以 10 ms 帧率运行,处理 80 ms 音频约需 7 ms,可容忍 6 至 8 秒的思考停顿,现已通过 Tavus API 和平台正式可用。

    推荐理由:Sparrow-2 把轮次切换从端点检测改为整体对话状态建模,并给出与十四套系统的基准对比,可据此判断语音智能体在嘈杂环境中的可用边界。

9月10日周四
  1. Hume AI Blog62

    Hume 发布语音复刻排行榜,评测 11 个 TTS 模型的克隆效果

    Hume 发布 Voice Replication Leaderboard,作为 Real World VoiceEQ Benchmark 的新组件,用 25 条参考语音和 7 条提示词评测 11 个 TTS 模型的语音复刻能力,评分维度包括同一说话人、音质、自然度和 TitaNet 说话人嵌入余弦相似度。结果显示没有模型在所有维度领先:Cartesia sonic-3.6-beta 自然度最高(4.36)但同一说话人仅排第八(3.63),OpenBMB VoxCPM2 同一说话人第一(4.21)而自然度第五(3.96);音质分数集中在 3.85 至 4.61,同一说话人分数跨度更大,为 2.91 至 4.21。

    推荐理由:榜单把说话人相似度、自然度、音质和客观相似度分开评测,并给出按口音与情绪拆分的对比,可供选型时参考。

8月9日周日
  1. Cactus Engineering Blog36

    Needle 2:面向微型设备的 14 MB 智能体 LLM

    Cactus 发布 Needle 2,一个 45M 参数的开源模型,用于工具调用、设备操作和结构化抽取,整个模型是单个 14MB 二进制文件,会话内存约 28MB。它在 Raspberry Pi 5 上解码达 500 tokens/sec,在 Meta Quest 3S、Apple Vision Pro 等 VR 设备上为 400–1,500 tokens/sec,并可运行于 ESP32-S3 等较新微控制器。模型采用 CQ2-bit 量化,从预训练到后训练全程针对 Cactus Quants 训练,并支持在 Mac/PC 上微调。

7月31日周五
  1. 论文与标准68

    M3-DuplexBench:英日双语全双工对话评测基准

    该基准联合评估全双工口语对话系统的交互时机(轮次切换、附和、打断)与响应内容,覆盖英语与日语的闲聊及多轮问答场景,并基于同源语料实现跨语言对比;实验揭示不同全双工模型具有模型特有的交互模式,语言与领域间存在明显性能差异。

    推荐理由:全双工语音模型评测方向的代表性新基准,补足多轮、多语言受控对比的空白。

4月23日周四
  1. 论文与标准62

    HumDial 全双工赛道:真人双声道数据集与 FDBench

    论文基于 ICASSP 2026 HumDial 挑战赛全双工赛道,发布涵盖打断、语音重叠与反馈机制的真实真人双声道对话数据集,并构建评测系统在维持对话流的同时处理打断能力的 HumDial-FDBench 基准,配套公开排行榜以比较开源与商用全双工模型。

    推荐理由:为全双工语音系统提供真实录音数据集与可复现评测框架,是该方向的重要基础设施。

2月13日周五
  1. Daily.co Blog71

    Pipecat 发布语音智能体 STT 基准:对比 10 家服务的延迟与语义准确率

    Pipecat 团队发布面向实时语音智能体的 STT 基准,在 1000 条真实人类语音样本上测试 10 家 STT 服务,同时衡量转写延迟(TTFS)与语义准确率。中位延迟上 Deepgram Nova 3(247ms,1.62% WER)、Soniox(249ms,1.29% WER)、Speechmatics(495ms,1.07% WER)位于帕累托前沿。基准用 Claude 做语义 WER 评估,只统计会导致 LLM 理解不同的错误,并强调 P95 延迟与 finalization 支持比中位数更影响对话体验;代码已在 GitHub 开源,Pipecat 0.0.102 起可设置 ttfs_p99_latency 参数。

    推荐理由:Pipecat 团队用 1000 条真实语音对比 10 家 STT 服务的延迟与语义准确率,并给出可自行复现的基准工具。

2月2日周一
  1. Daily.co Blog60

    Daily 发布语音智能体 LLM 基准 aiwf_medium_context,测试长多轮工具调用与延迟

    Daily 发布语音智能体基准 aiwf_medium_context,测试文本模式 LLM 与语音到语音模型在约 30 轮长对话中的工具调用、指令遵循和知识引用,源码已在 GitHub 开源。结果显示已有三个模型在该基准上各项指标达到 100%,但都太慢,无法满足语音智能体所需的 1500ms 以内语音到语音响应(约对应文本模型 700ms TTFT);生产中最常用的仍是 GPT-4.1 和 Gemini 2.5 Flash,AWS Nova 2 Pro 在性能与延迟上与之持平。语音到语音模型中 Ultravox 0.7 表现突出,GPT Realtime 通过率为 86.7%,低于 GPT-4.1 的 94.9%。

    推荐理由:Daily 公开语音智能体基准的源码与结果,可看到长多轮对话下模型能力与延迟之间的取舍。