跳到正文
10月12日周一
  1. arXiv eess.AS40

    OpenSVBench:诊断说话人验证跨部署场景的泛化能力

    OpenSVBench 是一个面向跨场景说话人验证评测的公开基准,其固定公开核心包含 26 个测试集、11 个场景组和 9.15M 条验证试验,并配有冻结的目标/非目标密钥。在线排行榜以诊断评测接口形式接受新系统的分数包,输出测试集细分、场景组指标、宏平均 EER/minDCF 及场景对比。对 18 个公开检查点的评测显示,宏平均 EER 相近的系统场景表现可能不同,单一场景的强性能不保证其他场景同样可靠。

  2. arXiv eess.AS29

    基于对抗训练的连续 SPL 控制人声强度转换

    一种轻量转换器以条件循环一致 GAN 在无平行数据下训练,可对任意目标声压级(SPL)实现连续 dB 尺度的人声强度转换,同时保留内容与说话人身份。在 log-mel、WavLM 和 SpeechTokenizer 三种表示对比中,WavLM 达到目标强度变化的 83%,并同步改变基频;感知评测确认幅度归一化后感知强度随目标等级上升。

  3. arXiv eess.AS27

    金融语音需要持续学习正则化吗?EWC 与 mini-KFAC 在财报电话会议 ASR 上的研究

    将 Whisper-small 从通用语音语料适配到 Earnings22 基准时,所有评估方法在同域金融语音上均出现性能提升而非遗忘,任务互补性使正则化反而有害。若确需正则化,逐层 mini-KFAC 近似比标准对角 EWC 取得更低 WER 和更稳定的优化。研究建议先评估任务互补性再施加持续学习约束,必要时优先选用 mini-KFAC EWC。

  4. arXiv eess.AS29

    面向 SLT2026 SmartGlasses Challenge 的前端辅助大型音频语言模型

    针对 SmartGlasses Challenge 赛道一的时间戳说话人归属 ASR 任务,参赛系统采用多模态大语言模型 SoulX-Transcriber,直接输入全长音频并生成结构化转写。为应对双人对话中的重叠语音、背景噪声和远场条件,引入基于规则的引导式源分离与数据驱动语音分离两种前端处理,均在验证集上带来提升。考虑推理稳定性,最终提交使用微调后的 SoulX-Transcriber,测试集 tcpCER 为 6.22。

  5. arXiv eess.AS24

    基于自发语音声学生物标志物的阿尔茨海默病检测

    一项研究利用 Cookie Theft 图片描述任务采集的自发语音,提取韵律、频谱和时间域的低层声学特征,评估多种机器学习分类器区分阿尔茨海默病患者与健康对照的能力,表现最佳的模型实现了具有临床意义的分组区分。结果支持将无创、低成本的音频筛查工具用于痴呆风险检测,并推动多模态与纵向评估框架的后续研究。

  6. arXiv cs.MM26

    LLM 驱动音色生成与插值的结构与表征能动性研究

    一项针对 LLM 驱动音色界面的测量研究发现,用户可触达的音色空间是每放置一个声音维度加一的 zonotope,而界面显示的位置与实测偏差约为该区域宽度的三倍。误差来自模型预测坐标和合成器参数插值两个独立来源,36 条细化指令中 26 条无可感知变化,较弱模型下界面未执行任何操作却报告已收敛。

  7. arXiv eess.AS31

    EarLog:将播放音频转为机会式耳部生理探测,实现个性化听力风险感知

    EarLog 将耳机播放音频本身作为探测信号,通过内容条件化残差感知识别声反射(AR),在嵌入式控制器上实时运行,仅需低成本双麦克风附件。在 81 名参与者、16 款耳机、超 400 小时录音的评估中,该方法在临床参考基准上达到 99.0% 灵敏度和 98.7% 特异度,可在日常聆听中记录个体化 AR 事件,为听力风险的纵向研究提供数据。

  8. arXiv cs.MM38

    DIA:面向云游戏的深度强化学习兴趣感知 ABR 方案

    针对云游戏在无线网络下高分辨率、低延迟传输的难题,研究者提出基于深度强化学习的兴趣感知 ABR 方案 DIA,借助现成语义分割模型实现对象级码率调整,并通过基于 Transformer 的特征提取器和兴趣感知奖励函数识别关键对象。该方案依据玩家游戏内移动速度、对象特征和网络状况自适应调整码率,无需眼动追踪等额外硬件。实验显示,在 5G 场景下 DIA 的归一化平均 QoE 至少比 SOTA ABR 算法高 20%。

  9. arXiv eess.AS40

    E3-System:可显式控制、易用的表达性零样本 TTS 框架

    E3-System 是一个面向表达性零样本 TTS 的意图到语音统一框架,可在给定目标说话人和自然语言风格描述或语音风格提示时,生成保留目标音色的表达性语音。它通过千小时多语言情感语音数据集 EmoData、将文本描述对齐为声学风格提示的 Style-RAG,以及借助 VC 增强音色-风格解耦的 Dual-TTS,打通从风格建模到可控合成的完整控制闭环。实验显示其在语音质量、说话人保持和显式表达控制上表现良好。

  10. arXiv cs.MM22

    EmoGavel:面向多模态情感偏好学习的可验证奖励接地感知强化学习框架

    EmoGavel 是一个面向多模态情感偏好学习的接地感知强化学习框架,通过可验证奖励同时学习偏好预测、错误定位、修复与缺失证据恢复。其先以 Grounded SFT 利用受控错误构造信息进行监督微调,再用 GA-GRPO 结合偏好门控接地奖励与动态零方差救援优化可验证结果。在 EmoPrefer 与受控错误评测集上,该方法提升了自然偏好预测与受控错误判别能力,并保持较强的错误接地性能。

  11. Cartesia Blog22

    Raise Financial Services 与 Cartesia 合作,为印度金融市场打造多语言语音 AI

    Raise Financial Services 正基于 Cartesia 的语音模型开发多语言语音体验,其 Dhan 语音机器人已有超 75% 的交互使用非英语语言,其中印地语占一半以上。Cartesia 的 Sonic 文本转语音模型支持印地语、泰米尔语、泰卢固语、马拉地语等 11 种印度语言,并可在单次生成中切换语言。Raise 将模型部署在自有基础设施内,超三分之一语音机器人来电在非工作时间由 AI 独立处理。

  12. MarkTechPost40

    Cloudflare 发布 Clef-omni:面向音频、视频、图像与文本的 30B-A3B 多模态决策模型

    Cloudflare 发布开源权重决策模型 Clef-omni,基于 Qwen3-Omni-30B-A3B-Instruct 后训练,30B 总参数、3B 激活(MoE),可在一次调用中对文本、图像、音频和视频打分,Apache-2.0 许可,输入价格 $0.15/百万 tokens。它在意图分类任务领先,CLINC150+OOS 达 97.7 macro-F1,但在推理与工作流评测中落后于 Clef,GPQA Diamond 仅 47.4。同批更新将 Clef-flash 价格降至 $0.038,托管 Clef 迁至 SGLang 后中位延迟提升 1.7 至 2.0 倍。

10月9日周五
  1. ElevenLabs Blog22

    什么是语音活动检测(VAD),它如何工作?

    语音活动检测(VAD)以毫秒级音频帧为单位判断是否含有人声,并以 0 到 1 的置信度输出二值结果,供 ASR/STT、LLM 等下游系统决定是否处理音频。算法按采集、分帧、特征提取、打分、状态决策五阶段循环运行,分为传统信号处理、神经网络和语义 AI 三类。VAD 只判断帧内是否有人声,判断说话人是否说完需由端点检测(endpointing)完成。

  2. ElevenLabs Blog22

    ElevenLabs 在 ElevenCreative 推出 Brand Kit

    ElevenLabs 在 ElevenCreative 中推出 Brand Kit,把品牌视觉规范从提示词中抽离为工作区里的独立对象,一次设置即可作用于每次生成。用户可存入颜色、字体、Logo、参考图和规则,在 Image & Video、Flows 和 ElevenCreative agent 的提示词中用 @ 调用,同一套规范跨各功能复用,并支持团队与多品牌分别建套切换。该功能现已上线,官方称下一步将把 Kit 扩展到品牌声音与音效。

  3. LiveKit Blog22

    Serve AI 如何用 Agent Simulations 把语音智能体迁移到 LiveKit

    Serve AI 将其电话智能体从 Retell 的对话流程图迁移到 LiveKit 单提示词架构,用 Agent Simulations 跑约一百通真实生产通话,迭代十到十五次后达到 98% 通过率、中位轮次延迟 1.3 秒(上限 1.5 秒)才切换流量。首个账号迁移耗时一周且未回滚,上线后问题拦截率提升 15%,Serve 估算该客户每年再省 32 万美元。

  4. LiveKit Blog62

    LiveKit 推出 Agent Simulations,用模拟用户测试语音智能体

    LiveKit 面向所有 LiveKit Cloud 项目正式推出 Agent Simulations,用 LLM 驱动的模拟用户按任务级场景跑完整对话,再由 LLM 评审给出通过或失败及原因。文本模拟跳过语音模型、只测对话逻辑,默认低优先级调度,可在每次 PR 上运行并在失败时返回非零退出码;音频模拟覆盖含背景噪声、打断和附和声的完整音频链路,实时运行且计费更高,适合夜间或发布前跑。CLI 可读取智能体代码自动生成场景,场景以 scenarios.yaml 版本化保存。该功能 10 月内免费,但模拟会调用真实智能体的 LLM 及音频模式下的 STT、TTS,按正常费率计费。

    推荐理由:LiveKit 把语音智能体测试从逐轮对话提升到任务级模拟,并给出文本与音频两种运行方式的成本取舍。

10月8日周四
  1. webrtcHacks74

    实测:Chrome 新回声消除器把语音代理自问自答率降到 Edge 的五分之一

    Chrome 新的 ML 残差回声估计器把语音代理的单词错误率减半,也减少了代理应答自己问候语的情况。作者用 Hugging Face speech-to-speech 搭建语音代理,在相同房间、麦克风和服务器下交替使用 Edge 与 Chrome 各跑一百多次:回声被 STT 当成用户语音的比例为 Edge 21%、Chrome 4%,失败都发生在会话开始后 1.0 到 2.2 秒之间。dump 显示问候语第一段被抑制 51 到 58 dB,约一秒后的第二段却以高于播放 7 到 13 dB 的电平上行,增益控制器在此期间把自适应数字增益从 15 dB 调高,放大了漏出的回声。作者还指出 min_speech_ms 从 500 ms 降到 384 ms 后,三次失败落在 384 到 500 ms 之间,而 smart-turn-v3 以 0.954 的置信度判定回声已说完,说明问题出在流水线看不到的浏览器组件。

    推荐理由:作者用 AEC dump 对比 Chrome 与 Edge 的语音代理自问自答率,并给出 VAD 阈值取舍的实测依据。

  2. 声网博客60

    微软发布三款语音模型,流式识别与合成延迟进入百毫秒区间

    微软于2026年10月1日发布三款语音模型:流式语音识别MAI-Transcribe-2-Streaming、语音合成MAI-Voice-2.1和MAI-Voice-2.1-Flash。MAI-Transcribe-2-Streaming在用户开始说话后约100毫秒给出首个部分转写结果,代价是模型无法回看整句上下文,易混淆词和被打断场景的出错概率更高;MAI-Voice-2.1-Flash端到端延迟150毫秒,推理速度比上一代提升55%,成本降低约60%,分块生成可能影响语调连贯性。文章还提到ElevenLabs v4 Turbo推理延迟也在100毫秒量级,并指出流式传输下连续小片段丢包会带来明显卡顿。

    推荐理由:微软三款语音模型把流式识别与合成延迟压到百毫秒级,可对照理解分块生成在准确率与语调连贯性上的取舍。

10月7日周三
  1. Hume AI Blog58

    Hume 拆解表情测量模型:面部与语音情绪信号如何变成可评测的结构化分数

    Hume AI 的技术长文,介绍其 Expression API 背后的面部与语音表情测量模型的科学依据、研发过程与评测方法:把语气、迟疑、惊讶等信号转为结构化分数,用于数据标注、AI 输出评估与跨录音比较,并跟踪交互过程中情绪随时间的变化。

    推荐理由:少见地把情绪测量模型的构建与评测方法完整公开,对情感计算与语音 Agent 评测有方法论价值。

10月6日周二
  1. Hume AI Blog65

    Hume AI 发布 Expression APIs:把语音与面部表情转为结构化感知分数

    Hume AI 推出 Expression APIs,将声音与面部表情转化为结构化分数,估计他人对该表达的可能感知,语音侧还额外度量说话风格与嗓音特质;支持实时交互与离线录音分析标注两种模式。典型场景是让语音 Agent 识别客户语气中的挫败感——转写文字相同而情绪不同的情况。

    推荐理由:把情绪信号做成可调用的结构化 API,补上语音 Agent 与情感计算管线里转写之外的关键一环。

  2. webrtcHacks80

    Chrome 静默上线神经回声消除器,实测回声抑制提升 5.4 dB

    Google Chrome 桌面版在用户不知情的情况下下载了一个 425 KB 的 TFLite 模型,接管 AEC3 中残差回声估计部分,默认开启且无开关,仅 Chrome 可用,Edge、Electron、Firefox 和 Safari 都拿不到。作者用 Microsoft AEC Challenge 合成语料的约 500 个文件跑 audioproc_f 对比,远端单讲帧的中位回声抑制从 19.8 dB 升到 27.0 dB,每文件中位提升 5.4 dB,80% 文件更好,双讲时近端电平基本不变(中位 +0.04 dB)。在 125 个文件上用 Whisper small.en 测试语音代理场景,中位词错率从 0.500 降到 0.235。

    推荐理由:作者用 AEC Challenge 语料实测 Chrome 神经回声消除器,给出回声抑制与语音识别词错率的对照结果。

  3. LiveKit Blog38

    Retell、Vapi 与 LiveKit 语音 AI 智能体对比:面向开发者的选型指南

    LiveKit 从四个工程问题对比 Retell、Vapi 与 LiveKit 三款语音 AI 智能体平台:上线后由谁迭代、需求超出默认配置时如何改动、是否需支持电话之外的 Web、移动、视频与 WhatsApp 等渠道,以及规模化成本。三者每分钟全包成本估算分别约为 $0.070–$0.310、$0.070–$0.116 和 $0.037–$0.099,仅 LiveKit 支持 Apache 2.0 开源与自托管。

  4. Boson AI Blog55

    Boson Higgs VoiceOver 登陆 Premiere Pro:Higgs TTS 3 驱动的可导挥 AI 配音与词级字幕

    继 DaVinci Resolve Studio 之后,Higgs VoiceOver 插件现已支持 macOS 上的 Adobe Premiere Pro:每句旁白由 Higgs TTS 3 生成并作为独立剪辑落入时间线,可按行导演情绪、风格与语速,生成词级时间对齐字幕,并用约 10 秒自己的音频构建 100+ 语言的定制音色;使用自己的 Boson API key,按用量计费,Final Cut Pro 版本在开发中。

    推荐理由:AI 配音进入主流专业剪辑软件时间线,把 TTS 能力落到视频生产工作流,实用面较广但属常规产品扩展。

  5. Tavus Blog22

    不显人工的 AI:PAL 如何改变一切

    Tavus 提出 Personified Application Layer(PAL),把感知、共情与记忆打包成可面对面交谈的应用,并给出 Tavus Turing Test 分级:Stage 0 只有渲染的脸和声音,Stage 0.5 具备人格但上下文限于单次会话,Stage 1 才是能跨交互记忆、推理并主动行动的持久 PAL。Tavus 称该测试是面向 PAL 团队的设计成熟度模型,并非经外部验证的基准。

10月2日周五
  1. Boson AI Blog22

    对话 Vincent Wargnier:用 Compass 语音智能体赢得 Higgs Realtime 黑客松

    Vincent Wargnier 与 Nayl Ahmadulin 在赛前五天组队,凭 Compass 拿下 Boson AI 的 Higgs Realtime 黑客松第一名。Compass 是能在后台搜索、推理并执行建站等重任务的同时保持自然对话的语音智能体,不会因工具运行而沉默,而是继续提问、吸收中间结果。Wargnier 认为现有语音智能体在长任务中要么静默、要么只给无用状态提示,这正是其想解决的问题。

  2. Boson AI Blog48

    Higgs TTS 3 在 Hume 语音复刻榜单位列第四,口音参考音得分最高

    Boson AI 的 Higgs TTS 3 在 Hume AI 语音复刻榜单中位列 11 个模型第四,口音参考音得分 4.28 为全场最高,略高于 VoxCPM2,并领先 Fish Audio S2 Pro、ElevenLabs v3 和 ElevenLabs Multilingual v2。该评测由三名人工评分者在不知模型来源的情况下按 1 至 5 分打分,测试集含 25 个参考音,其中 15 个带不同口音、9 个来自非英语母语者。Higgs TTS 3 的 Same Speaker 得分为 3.83,客观相似度 0.74 并列第三,音质 4.38 与最高分相差 0.23。该模型为开放权重,已在 Hugging Face 上线,上月下载量接近 10 万次,并可通过 Higgs TTS API 使用。

  3. Mux Blog38

    Mux 推出 Robots playground:写代码前先调好 AI 视频工作流

    Mux 发布 Robots playground,可在 Dashboard 中直接对自有视频运行 AI 工作流并查看格式化输出,无需先写代码。工作流涵盖摘要、关键片段提取、字幕翻译与内容审核,每次调用即真实 Robots API 任务,输出保留 30 天并按 unit 计费。页面支持参数与输出引导调优、两次运行结果并排对比,并可复制 agent prompt 将调优配置带入生产。

  4. Tavus Blog15

    如何用 Tavus PALs 构建能实时回答买家问题的 AI 产品演示

    Tavus 用 Personified Application Layers(PALs)构建实时 AI 产品演示,让 AI 数字人在直播演示中即时回答买家的定价、集成与安全问题,并当场预约会议。其 Phoenix-4.5 面部行为引擎支持 10+ 种可控情绪状态,Raven-1 多模态感知以低于 100ms 延迟融合语气与表情,Sparrow-2 在 TurnBench 公开开发集上达到 92.4% 轮次结束召回率。

  5. Tavus Blog17

    AI copilot 与 AI agent 如何选:自主性、触发方式与问责决定适用场景

    Tavus 撰文对比 AI copilot 与 AI agent 的产品选型:copilot 在人工任务内提供草稿与建议、由人保留否决权,agent 则接受目标后自主调用工具直至完成。文章引用 Gartner 定义与四级自主性分层,指出二者在自主性、触发范围、问责归属和集成范围四个维度分化,并强调当对话本身即交付物时,需要真实在场感的 AI 视频 agent。

  6. Tavus Blog15

    最佳 AI 客服软件对比:Tavus、Anam、UneeQ 等八大平台横评

    Tavus 在八款 AI 客服平台横评中位列第一,其 Conversational Video Interface 通过托管 WebRTC 连接实现低于 200ms 的响应延迟,Sparrow-2 模型在 81% 的轮次结束点达到人类典型应答时机。Anam 以单张照片生成数字人并公布低于 1 秒的中位对话延迟,UneeQ 则面向受监管企业提供云、混合与本地部署。评测按渠道覆盖、知识 grounding、工单系统适配、定价与合规等维度排序。

  7. Tavus Blog22

    如何用 2 分钟视频创建 AI 克隆:Tavus 详解录制、训练与实时 PAL 部署

    Tavus 介绍用约 2 分钟视频训练 AI 克隆的完整流程:在 PAL Maker 中上传片段、选择训练路径并预览 Replica,录制需 1080p、25fps 以上,且包含至少 30 秒说话片段。实时 PAL 通过 Raven-1、Sparrow-2、Phoenix-4.5 等模型实现 40fps 1080p 面部渲染与约 30ms 知识库检索,并借助 Persistent Memory 跨会话记忆。

  8. Tavus Blog22

    Tavus 解析实时视频智能体的 AI 微服务架构:拆分感知、对话流、推理与面部行为

    Tavus 提出用 AI 微服务架构拆分实时视频智能体,将感知、对话流、推理和面部行为生成拆为四个可独立部署、独立扩缩容的服务,避免单体架构中一处卡顿导致整张脸冻结。感知服务输出上下文陈旧度不超过 300ms,行为生成需维持 1080p 下 40fps,并满足 ITU-R 音频领先视频 45ms、滞后 125ms 的可察觉阈值。

  9. Tavus Blog12

    什么是数字孪生,它与 AI 复刻人有何不同?

    数字孪生是某个特定物理对象的虚拟模型,靠传感器数据持续同步、实时更新,用于监测、预测和决策,ISO 23247-1 将其定义为可观测制造要素的适用数字表示。它与仿真、复刻人的区别在于:仿真无实时数据,复刻人只从录制视频训练一次、不再与本人重新同步。Tavus 认为,把复刻人称作数字孪生会误导用户以为存在实时连接,并建议用 Replica 加 Personified Application Layer(PAL)来区分外观声音与对话系统。

9月30日周三
9月29日周二