跳到正文
9月22日周二
  1. Tavus Blog66

    Tavus 发布 Phoenix-4.5:实时数字人从全脸生成迈向全身动作与对话表现力

    Tavus 推出 Phoenix 系列实时数字人模型的 4.5 版本,官方定位为三年来在自然度上最大的一次跨越:在 Phoenix-4 情绪可控、主动聆听与连续面部动作的基础上,把生成范围从嘴部、面部扩展到肩部姿态、头部节奏等身体语言。文章为研究与技术综述,说明该版本对实时对话中临场感(presence)的改进。

    推荐理由:实时数字人方向的旗舰产品迭代,直接关系到 Conversational Video Interface 的对话自然度。

9月21日周一
9月18日周五
  1. Cactus Engineering Blog19

    如何为 Needle 3 设计工具:把约束写进 schema 与语法

    Cactus 分享为 Needle 3 设计工具集的规则:每个动作一个工具,参数必须从请求原文中复制,无对应文本的必填参数会直接扣留调用。工具名和枚举值应使用用户会说的词,取值范围、枚举、长度等约束编译进解码语法,使非法值无法生成。描述无法穷举的说法可用触发器正则匹配,将解码限定到对应工具并强制产生调用。

  2. Cactus Engineering Blog50

    Cactus 详解 Needle 的 .cact 单文件格式与 2.125 比特量化

    Cactus 介绍其端侧模型 Needle 使用的 .cact 单文件格式:196 字节头部携带全部架构几何信息,无名张量目录按前向顺序排列,权重以 128 个一组做 Hadamard 旋转后按 Lloyd-Max 码本量化,CQ2 下每权重 2.125 比特。内核直接读取打包索引做查表与 sdot 累加,不展开权重,20 层 needle3.cact 为 29 MB、581 个张量。文中还给出用 struct 解析头部与目录的二十行 Python 代码,并说明同一容器可承载语音模型 Whistle。

    推荐理由:原文拆解了 .cact 单文件格式的头部、目录与分组量化设计,并给出二十行解析代码,可迁移到自研端侧模型加载器。

9月17日周四
  1. Hume AI Blog62

    Hume 发布语音可控性排行榜,评测 17 个 TTS 模型

    Hume 发布 Voice Controllability Leaderboard,从语音设计、语音指令和角色契合三个维度评测 17 个 TTS 模型,采用数万条人工评分而非 LLM 评委,理由是后者可能因数据泄漏抬高分数。结果显示没有单一模型在所有可控性维度领先:Google 与 ElevenLabs 总体领先但各有短板,开源模型在语音设计上仍有竞争力;性别平均准确率 97.87%,年龄仅 51.8%,讽刺是最难传达的语气。

    推荐理由:榜单用数万条人工评分对比 17 个语音模型的可控性,并指出 LLM 评委可能因数据泄漏抬高分数。

  2. Cactus Engineering Blog58

    Cactus 受控实验:删掉 FFN 后 Transformer 只损失 0.006 nats

    在控制参数量、算力与深度后测量删除前馈网络的损失:匹配参数下仅 0.006 nats,且集中在无外部信息可查的 token 上;该结论支撑 Needle 2/3 的纯注意力架构,完整研究为 A Controlled Study of Attention-Only Transformers。

    推荐理由:对 transformer 架构常识的反直觉实证,方法论干净。

  3. LiveKit Blog20

    LiveKit 推出创业扶持计划:提供约 2.3 万美元额度,覆盖推理与 LiveKit Cloud

    LiveKit 推出 Startup Program,为符合条件的早期创业公司提供约 23,000 美元总价值额度,包括 7,000 美元推理额度(覆盖 7 家合作方)、10,000 美元 LiveKit Cloud 额度和一年 Scale 计划(原价 500 美元/月)。所有模型通过 LiveKit Inference 调用,无需单独账号或 API key,且默认启用零数据留存。申请者须员工少于 50 人、融资低于 500 万美元,并将语音、视频或物理 AI 作为产品核心。

9月11日周五
  1. 海外技术动态70

    Bitmovin 第 10 期开发者报告:98% 视频团队已用 AI,低延迟首超成本成头号挑战,MoQ 意向 28% 而生产使用仅 2%

    基于 94 国 486 名从业者的调查:直播低延迟(36%)首次超过成本控制(35%)成为最大挑战;AVOD 以 69% 领跑变现、FAST(54%)追平 SVOD;QoE 数据虽普遍采集但仅 9% 团队能在 1 小时内定位根因;MoQ 有 28% 的 12 个月使用计划而生产使用率仅 2%,核心传输草案已到第 19 版、目标 2026 年 12 月提交 IESG。

    推荐理由:十年期行业调查的数据型趋势观察,量化了 AI、广告与低延迟三条主线的真实落地差距。

  2. 声网博客18

    声网对话式AI引擎支撑Live Play Mobile的AI游戏主播:24小时直播与真人主播学习闭环

    Live Play Mobile为其24小时宾果直播间加入AI游戏主播,将语言→语音→虚拟形象链路交给声网兄弟公司Agora的对话式AI引擎,游戏逻辑、玩家记忆与主播人设留在自有框架。团队围绕低延迟模型定制语音处理以维持长时间互动的表现力,AI负责24小时多语言运营并把有效话术反馈给真人主播。声网称其方案提供400毫秒平均全球延迟、99.99%正常运行时间,覆盖200多个国家和地区。

9月10日周四
  1. Hume AI Blog62

    Hume 发布语音复刻排行榜,评测 11 个 TTS 模型的克隆效果

    Hume 发布 Voice Replication Leaderboard,作为 Real World VoiceEQ Benchmark 的新组件,用 25 条参考语音和 7 条提示词评测 11 个 TTS 模型的语音复刻能力,评分维度包括同一说话人、音质、自然度和 TitaNet 说话人嵌入余弦相似度。结果显示没有模型在所有维度领先:Cartesia sonic-3.6-beta 自然度最高(4.36)但同一说话人仅排第八(3.63),OpenBMB VoxCPM2 同一说话人第一(4.21)而自然度第五(3.96);音质分数集中在 3.85 至 4.61,同一说话人分数跨度更大,为 2.91 至 4.21。

    推荐理由:榜单把说话人相似度、自然度、音质和客观相似度分开评测,并给出按口音与情绪拆分的对比,可供选型时参考。

9月1日周二
  1. Meta AI Research Blog74

    Meta 发布 Muse Voice Transcribe 实时语音感知模型

    Meta Superintelligence Labs 发布 Muse Voice Transcribe,一个实时音频感知模型,支持流式 ASR、20 人以上说话人分离和端点检测,原生处理 25 种以上语言并支持句内无缝语码转换。模型以 80ms 音频块(12.5 Hz)自回归处理,通过强化学习实现自适应延迟,在速度与准确率之间取得权衡;训练覆盖 70 多种语言,其中 25 种经过充分验证,并支持超过一小时的长音频输入。

    推荐理由:Meta 公布实时语音感知模型的流式 ASR、说话人分离与端点检测设计,可了解自适应延迟的取舍思路。

8月28日周五
  1. Netflix Technology Blog71

    Netflix 详解 MAPS:用多模态嵌入做大规模素材个性化

    Netflix 介绍 MAPS 多模态素材个性化系统,把 CLIP 图像嵌入与素材 ID 嵌入拼接,让模型在素材刚上线、几乎没有交互数据时就能个性化推荐。该做法把五个画布各自的模型合并为一个,在数据最少的 short-panel 与 landscape-panel 画布上收益最大;消融实验中只有图像嵌入与统一模型同时使用(V3)才在至少四周的线上 A/B 测试中取得显著提升,short-panel 离线 IPS 提升 5.691%。视频预览方面,融合视觉、音频与文本的 MediaFM 在五周 A/B 测试中优于仅用视觉的 SeqCLIP 和纯 ID 基线,已成为默认视频预览嵌入。

    推荐理由:Netflix 用 CLIP 与 MediaFM 多模态嵌入解决素材冷启动,并给出离线 IPS 与线性探针的评估取舍。

8月27日周四
  1. Daily.co Blog62

    Pipecat 发布 PhoneLLM Alpha 1 语音智能体开源模型与 PhoneBench v1 基准

    Pipecat 团队发布 PhoneLLM Alpha 1,一个面向语音智能体场景的开源权重模型,基于 NVIDIA Nemotron 3 Nano 30B-A3B 全参数微调,采用 MoE 架构、3.5B 激活参数,以 BSD 许可发布且无商用限制。官方称其表现与 GPT 5.6 Terra 相当,但成本低 94%、P95 首 token 时间快 1,300ms,单请求 TTFT P95 在 B200 上低于 100ms。同时发布 PhoneBench v1 基准,用 LLM 评审团评估电话智能体的说话风格、工具调用准确性与每分钟运行成本;权重已上线 HuggingFace,官方建议将 temperature 设为 0 并关闭 thinking。

    推荐理由:原文给出模型规格、延迟与成本测算方式,读者可据此判断自托管语音智能体是否划算。

8月20日周四
  1. LiveKit Blog52

    LiveKit Agent Observability 推出 PII 脱敏功能

    LiveKit 为 Agent Observability 新增 PII 脱敏功能,在录音和转写文本存入前自动移除姓名、地址、生日等敏感信息,对使用该功能的客户不额外收费。脱敏用 LLM 按上下文识别,转写文本中的词替换为标记,轨迹和日志中的敏感字段直接丢弃;由于词级 ASR 时间戳并非在所有 STT 模型上都可靠,音频改为删除整个轮次并以提示音替代。目前支持 10 组共 41 类 PII,需使用 LiveKit Agents SDK Python 或 Node.js 1.7.0 版本,数据保留 30 天后自动删除。

    推荐理由:LiveKit 用 LLM 按上下文做 PII 脱敏,并说明音频整轮删除的取舍,可据此判断合规方案是否够用。

  2. Meta AI Research Blog28

    Meta 发布 Muse Spark 1.2 多模态评测结果:视觉编码、机器人与音视频理解

    Meta 公布 Muse Spark 1.2 的多模态评测结果与演示,该版本在模型可调用工具时多模态提升最明显,覆盖视觉编码、图表理解与知识密集型任务。视觉编码可将图像或视频转为可运行网页与游戏代码,机器人侧由高层规划模型配合基于小型 Muse 实验版本的 VLA 策略执行操作。Meta 同时预览内部评测 WildArtifactBench 并放出 10 个任务,Muse Spark 1.2 已在 Meta Model API 和 Muse Code 上线。

8月14日周五
  1. LiveKit Blog40

    LiveKit 如何处理零数据保留(ZDR):全平台模型默认不保留、不训练

    LiveKit 宣布其 Inference 中所有 LLM、STT、TTS 模型默认启用零数据保留(ZDR),适用于所有套餐,无需开关或升级配置。ZDR 要求不保留、不记录日志、不训练、不聚合,LiveKit 通过合同、账户或工作区配置及逐请求参数强制第三方提供商遵守,不达标者不予接入。Agent 可观测性数据保留 30 天,Egress 录制存入用户自有云存储,语音克隆样本在最后使用 12 个月后删除。

8月13日周四
  1. LiveKit Blog62

    LiveKit Agents 推出 expressive mode,让语音智能体按对话情绪调整语气

    LiveKit 在 LiveKit Agents 中发布 expressive mode,用一个开关让语音智能体根据对话上下文调整语气。该模式在 LLM 提示中注入各家 TTS 的标记方言,由框架统一转换,并会把多句合并成更大块再送入 TTS,以稳定情绪和音高且不显著增加延迟。目前支持 Fish Audio、Inworld、Cartesia 和 SpaceXAI 的 LiveKit Inference 模型,前端可通过 lk.expression 属性获取情绪信号。

    推荐理由:LiveKit 官方说明 expressive mode 如何把 LLM 输出转成各家 TTS 的情绪标记,并给出开启方式与前端联动做法。

8月9日周日
  1. Cactus Engineering Blog36

    Needle 2:面向微型设备的 14 MB 智能体 LLM

    Cactus 发布 Needle 2,一个 45M 参数的开源模型,用于工具调用、设备操作和结构化抽取,整个模型是单个 14MB 二进制文件,会话内存约 28MB。它在 Raspberry Pi 5 上解码达 500 tokens/sec,在 Meta Quest 3S、Apple Vision Pro 等 VR 设备上为 400–1,500 tokens/sec,并可运行于 ESP32-S3 等较新微控制器。模型采用 CQ2-bit 量化,从预训练到后训练全程针对 Cactus Quants 训练,并支持在 Mac/PC 上微调。

8月4日周二
  1. 声网博客22

    智能硬件语音交互架构解析:麦克风、RTC、ASR、LLM、TTS 全链路

    智能硬件语音交互的体验瓶颈往往不在 LLM,而在麦克风采集、回声消除、RTC 实时传输、流式 ASR、TTS 播放与打断控制等基础环节。文章拆解了从采集、前处理、实时传输到 ASR、LLM、TTS、播放与打断的完整链路,指出 RTC 是弱网下保持语音连续的关键通道,并建议量产前按真实场景验证麦克风、弱网重连、儿童语音与云端成本。

7月30日周四
  1. 声网博客22

    旅游高峰期的 AI 语音助手:如何接住暴涨的咨询量

    声网对话式 AI 引擎为旅游平台 AI 语音助手提供实时交互底座,端到端响应延迟可低至 650 ms,打断响应 340 ms,选择性注意力锁定可屏蔽 95% 的环境人声和噪声干扰。该引擎在 80% 丢包率下仍可维持语音对话,断网 3 至 5 秒时也能继续处理连接恢复后的交互,酒店政策、订单状态等业务数据仍由平台自有系统提供。

7月29日周三
7月28日周二
  1. Cartesia Blog38

    TTS 模型好不好?为什么语音合成评测随模型进步而失效,以及如何衡量真正重要的指标

    Cartesia 发文分析 TTS 评测为何随模型进步而失效:语音合成是一对多映射,同一文本可有兴奋、愤怒、悲伤、讽刺等多种正确读法,WER 在可懂度解决后趋于饱和,且受 ASR 质量牵制。评测还需覆盖上下文正确性、文本规范化与专有名词读音,这些错误即使语音流畅也难以察觉。

7月20日周一
7月19日周日
  1. 海外技术动态72

    SEC 文件披露:Netflix 以 5.87 亿美元现金收购 Ben Affleck 参与创立的 AI 后期制作公司 InterPositive

    Netflix 在截至 2026 年 6 月 30 日的 10-Q 文件中披露,3 月宣布收购的 InterPositive 现金对价为 5.87 亿美元(此前 Bloomberg 称交易最高可达 6 亿美元);该公司专注后期制作的 AI 工具(补拍镜头、背景替换、灯光修正),不生成全新内容,16 人团队整体加入,Affleck 出任高级顾问;Netflix 另披露约 300 部作品已使用生成式 AI。

    推荐理由:流媒体巨头将 AI 制作能力收归自研的最大单笔交易之一,金额与战略意图均已实锤。

7月16日周四
  1. LiveKit Blog38

    如何构建不会跑偏的语音 Agent:LiveKit 酒店前台示例的分层防护实践

    LiveKit 以酒店前台参考 Agent 为例,讲解如何让语音 Agent 不脱离脚本:先用结构化提示词设定身份与护栏,再用确定性代码强制校验规则,如用 Python 做卡号长度与 Luhn 检查、用 max_tool_steps 限制工具调用链。文章强调提示词防护对蓄意攻击很弱,真正的规则必须在代码层执行。

7月15日周三
7月8日周三
  1. 声网博客34

    2026年7月值得一试的5个免费语音AI开发工具

    声网博客整理了5个可直接上手的免费语音AI工具,覆盖TTS、ASR与端到端语音对话链路。Bosonai Higgs TTS 3以4B参数提供零样本声音克隆和100+语言支持,API免费限速且兼容OpenAI格式;HuggingFace开源语音栈由Parakeet、Gemma 4 31B和Qwen3TTS组成,已在超9000台Reachy Mini机器人上部署。其余为浏览器转录工具SoundWise、支持单词级编辑的开源TTS ViiTorVoice,以及研究导向的扩散式ASR模型。

6月29日周一
  1. 声网博客36

    用 TEN Framework 搭实时语音 AI Agent:从零到跑通

    声网开源的实时多模态对话 AI 框架 TEN Framework 把 STT、LLM、TTS、VAD、Turn Detection 等环节抽象为可插拔 Extension,用 Graph 定义数据流并并发调度,换模型只需改配置。其 Turn Detection 基于 Qwen2.5-7B 做语义级打断判断,支持中英文,传输层支持 RTC、WebSocket、SIP。按 Demo 流程配置 Agora、Deepgram、ElevenLabs、OpenAI 的 Key 后,约 20 分钟可跑通。

6月4日周四
  1. Daily.co Blog74

    NVIDIA 发布开源多语言语音识别模型 Nemotron 3.5 ASR

    NVIDIA 发布多语言语音转文字模型 Nemotron 3.5 ASR,同时提供多语言版和仅英文版 Nemotron 3 ASR 检查点,完全开源、可微调并支持自托管。作者在 Pipecat stt-benchmark 中测得该多语言模型速度超过基准中其他模型且准确率尚可,仅英文版速度相当、准确率接近当前最高分模型。延迟可通过音频处理 chunk size 调节,在 NVIDIA L40S 上以最低延迟配置可安全承载约 96 路并发转写,作者估算企业自托管成本约 $0.05/小时,而主流转写 API 通常为 $0.10-$1.00/小时。

    推荐理由:作者用开源基准给出 Nemotron 3.5 ASR 的延迟与准确率位置,并附自托管成本与并发配置,便于评估语音代理选型。

5月26日周二
  1. 声网博客28

    2026年5月开源语音合成模型TTS推荐与测评:Higgs Audio V2、CosyVoice 2等六款横评

    2026年5月开源TTS横评覆盖Higgs Audio V2、Kokoro-82M、VibeVoice-1.5B、CosyVoice 2、Fish Speech和F5-TTS六款模型,按音质、速度、中文能力与资源消耗对比。CosyVoice 2中文自然度MOS 4.7居首,Higgs Audio V2情感表达4.7最强,VibeVoice-1.5B单次可生成90分钟、4说话人长音频。Kokoro-82M仅82M参数、4GB VRAM即可运行,Fish Speech协议为CC BY-NC-SA不可商用。

5月19日周二
  1. Google AI Blog56

    Google 扩展 SynthID 与内容凭证的媒体溯源覆盖

    Google 公布内容透明度工具进展:SynthID 不可见水印已用于 AI 生成的图像、视频与音频,累计标注超过 1000 亿张图像/视频与 6 万年时长的音频;C2PA Content Credentials 从 Pixel 10 相机扩展到 Pixel 8/9/10 的视频拍摄。SynthID 验证已在 Gemini App 使用 5000 万次,并扩展到 Search 与 Chrome 的“Is this made with AI?”查询;OpenAI、Kakao、ElevenLabs 将引入 SynthID,Google Cloud 上线 AI Content Detection API。

    推荐理由:AI 生成媒体的水印与溯源正在成为音视频平台的合规基础设施,该更新给出规模化数据。

5月12日周二
  1. Cactus Engineering Blog62

    Cactus 开源 26M 参数函数调用模型 Needle:端侧预填充 6000 tok/s

    Cactus 开源从 Gemini 蒸馏的 26M 参数函数调用模型 Needle,消费级设备上预填充 6000 tok/s、解码 1200 tok/s;核心观察是工具调用本质是检索与组装而非推理,因此采用纯注意力加门控结构、完全去掉 FFN。

    推荐理由:端侧函数调用模型的代表性工作,结构取舍结论对端侧 AI 有普适启发。