跳到正文
今天10月14日周三1 条
  1. Mux Blog30

    给编码智能体一份"菜谱":Mux 推出面向视频场景的提示词库

    Mux 发布提示词库(prompt library),为常见视频用例提供写给编码智能体阅读的指令,指明该用哪些 Mux 组件、按什么顺序、以及 Mux 自己会选的默认值。在播客切片测试中,未给提示词时 6 次运行仅 1 次首选 Mux,Claude Code 自建 S3、FFmpeg 与 Deepgram 链路耗时 69 分钟、946 credits 且只通过 6 项标准中的 1 项;给出切片提示词后 15 次运行全部用 Mux 完成整个流程,决策时间从 82 秒降至 46 秒。

10月12日周一
  1. AWS Media Blog38

    Formula 1 如何用 AWS AI 将 12PB 视频档案检索缩短到秒级

    Formula 1 与 AWS 合作在 2026 年 4 月为 12PB 的 F1 Video Archive 上线 Media Archive Discovery 系统,用 Amazon Bedrock 将自然语言请求转成精确检索,用户输入“find celebrations after Leclerc's first Ferrari win”即可直接取到片段。该 AI 层只做查询增强,不替换原有 OpenSearch Service 引擎,日常检索不受影响;任一步骤失败时回退到纯文本搜索,保证始终有结果返回。

  2. Art of Smart60

    Google DeepMind 演示 Gemini 实时语音代理与实时翻译模型

    Google DeepMind 的 Thor Schaeff 介绍 Gemini API 的实时语音代理能力,包括低延迟、带音频标签的 TTS 模型,以及支持约 90 种语言、可自动检测说话语言并翻译成听者偏好语言的实时翻译模型。他还演示了面向实时对话代理的 Gemini 3.1 Flash Live,其底层 Live API 是低延迟 WebSocket 接口,支持流式文本、音频和视频,具备原生音频理解、打断处理、工具调用和音频转写能力,并提到与 LifeKit、PipeKit 的合作。开发者可通过 Google AI Studio 的 ai.studio/live 和 ai.dev/live 体验。

  3. DataNorth AI60

    Cloudflare 发布多模态决策模型 Clef-omni,并下调 Clef-flash 价格

    Cloudflare 于 9 月 9 日发布开源权重决策模型 Clef-omni,可在一次调用中接收文本、图像、音频和视频,按允许答案返回概率,无需先做转写或字幕。它基于阿里 Qwen3-Omni-30B-A3B 去掉语音输出并加训决策层,30B 参数中每 token 仅 3B 参与计算;消息分类表现稳定,但加入音视频后 agent 任务准确率有所下降,且官方未公布音视频基准。Cloudflare 同时把 Clef-flash 输入价格降至每百万 token 0.038 美元,但托管版 Clef-flash 上下文从 64,000 降至 24,000 token。

  4. MarkTechPost40

    Cloudflare 发布 Clef-omni:面向音频、视频、图像与文本的 30B-A3B 多模态决策模型

    Cloudflare 发布开源权重决策模型 Clef-omni,基于 Qwen3-Omni-30B-A3B-Instruct 后训练,30B 总参数、3B 激活(MoE),可在一次调用中对文本、图像、音频和视频打分,Apache-2.0 许可,输入价格 $0.15/百万 tokens。它在意图分类任务领先,CLINC150+OOS 达 97.7 macro-F1,但在推理与工作流评测中落后于 Clef,GPQA Diamond 仅 47.4。同批更新将 Clef-flash 价格降至 $0.038,托管 Clef 迁至 SGLang 后中位延迟提升 1.7 至 2.0 倍。

10月9日周五
  1. ElevenLabs Blog22

    ElevenLabs 在 ElevenCreative 推出 Brand Kit

    ElevenLabs 在 ElevenCreative 中推出 Brand Kit,把品牌视觉规范从提示词中抽离为工作区里的独立对象,一次设置即可作用于每次生成。用户可存入颜色、字体、Logo、参考图和规则,在 Image & Video、Flows 和 ElevenCreative agent 的提示词中用 @ 调用,同一套规范跨各功能复用,并支持团队与多品牌分别建套切换。该功能现已上线,官方称下一步将把 Kit 扩展到品牌声音与音效。

  2. LiveKit Blog62

    LiveKit 推出 Agent Simulations,用模拟用户测试语音智能体

    LiveKit 面向所有 LiveKit Cloud 项目正式推出 Agent Simulations,用 LLM 驱动的模拟用户按任务级场景跑完整对话,再由 LLM 评审给出通过或失败及原因。文本模拟跳过语音模型、只测对话逻辑,默认低优先级调度,可在每次 PR 上运行并在失败时返回非零退出码;音频模拟覆盖含背景噪声、打断和附和声的完整音频链路,实时运行且计费更高,适合夜间或发布前跑。CLI 可读取智能体代码自动生成场景,场景以 scenarios.yaml 版本化保存。该功能 10 月内免费,但模拟会调用真实智能体的 LLM 及音频模式下的 STT、TTS,按正常费率计费。

    推荐理由:LiveKit 把语音智能体测试从逐轮对话提升到任务级模拟,并给出文本与音频两种运行方式的成本取舍。

10月6日周二
  1. Hume AI Blog65

    Hume AI 发布 Expression APIs:把语音与面部表情转为结构化感知分数

    Hume AI 推出 Expression APIs,将声音与面部表情转化为结构化分数,估计他人对该表达的可能感知,语音侧还额外度量说话风格与嗓音特质;支持实时交互与离线录音分析标注两种模式。典型场景是让语音 Agent 识别客户语气中的挫败感——转写文字相同而情绪不同的情况。

    推荐理由:把情绪信号做成可调用的结构化 API,补上语音 Agent 与情感计算管线里转写之外的关键一环。

  2. Boson AI Blog55

    Boson Higgs VoiceOver 登陆 Premiere Pro:Higgs TTS 3 驱动的可导挥 AI 配音与词级字幕

    继 DaVinci Resolve Studio 之后,Higgs VoiceOver 插件现已支持 macOS 上的 Adobe Premiere Pro:每句旁白由 Higgs TTS 3 生成并作为独立剪辑落入时间线,可按行导演情绪、风格与语速,生成词级时间对齐字幕,并用约 10 秒自己的音频构建 100+ 语言的定制音色;使用自己的 Boson API key,按用量计费,Final Cut Pro 版本在开发中。

    推荐理由:AI 配音进入主流专业剪辑软件时间线,把 TTS 能力落到视频生产工作流,实用面较广但属常规产品扩展。

10月2日周五
  1. Mux Blog38

    Mux 推出 Robots playground:写代码前先调好 AI 视频工作流

    Mux 发布 Robots playground,可在 Dashboard 中直接对自有视频运行 AI 工作流并查看格式化输出,无需先写代码。工作流涵盖摘要、关键片段提取、字幕翻译与内容审核,每次调用即真实 Robots API 任务,输出保留 30 天并按 unit 计费。页面支持参数与输出引导调优、两次运行结果并排对比,并可复制 agent prompt 将调优配置带入生产。

9月28日周一
  1. ElevenLabs Blog67

    ElevenLabs 发布 Eleven v4 与低延迟版 Eleven v4 Turbo 语音模型

    ElevenLabs 发布文本转语音模型 Eleven v4 及其低延迟版本 Eleven v4 Turbo,称 Eleven v4 在 Artificial Analysis 排名第一,并在与 Cartesia Sonic 3.6、Inworld TTS-2、Google Gemini 3.8 Flash-Lite TTS 和 Gemini 3.8 Flash TTS 的盲测对比中被约 75% 听众偏好。Eleven v4 Turbo 面向语音代理等低延迟场景,中位推理延迟约 100ms,中位首次发声时间约 150ms,与 ElevenAgents 平台协同优化。两款模型支持 90 多种语言,Instant Voice Clones 用 10 秒音频即可克隆,并新增 Professional Voice Clones 支持,现已上线 ElevenAgents、ElevenCreative 和 ElevenAPI。

    推荐理由:官方给出两款新模型的延迟、盲测偏好与克隆门槛,可据此判断语音代理和配音场景是否值得迁移。

9月26日周六
  1. Pipecat Releases62

    Pipecat v1.12.0 发布:新增分类器与 MOQ 客户端重连,TTS 支持 IPA 发音映射

    Pipecat 发布 v1.12.0,新增 Pipecat Classifiers,可通过 JevClassifier 或 LLMClassifier 对状态提出是/否、选择与评分问题,并新增 TTSService.pronunciation_transform_ipa() 用词到 IPA 的映射控制专有名词发音。MOQTransport 增加客户端模式重连,断线后按退避重拨,MOQParams.connection_timeout 默认由 30 s 改为 60 s;同时弃用 UninterruptibleFrame、BaseUIWorker 等接口,将在 2.0.0 移除。

    推荐理由:版本说明覆盖分类器、MOQ 重连与语音合成发音等多项能力变化,并列出弃用与移除项,便于评估升级影响。

9月25日周五
  1. Boson AI Blog58

    Boson AI 发布 Higgs VoiceOver:在 DaVinci Resolve 和 Premiere Pro 内生成 AI 配音

    Boson AI 发布 Higgs VoiceOver 插件,把 AI 配音放进视频剪辑器,由 Higgs TTS 3 驱动,每句旁白生成独立片段并自动排到时间线的配音轨上。它支持用标签控制情绪、语速和音效,自动生成词级时间轴字幕,用约十秒音频克隆自定义声音,覆盖 100 多种语言且同一句内可切换语言。该插件已在 macOS 上的 DaVinci Resolve Studio 和 Adobe Premiere Pro 上线,Final Cut Pro 与 Windows 版本在开发中,使用自带 Boson API key 按量计费,价格为每千字符 0.015 美元。

    推荐理由:面向剪辑工作流的 AI 配音插件,说明它如何把配音、字幕和声音克隆放进时间线,以及按量计费的成本口径。

9月23日周三
  1. Cartesia Blog42

    Cartesia 推出 Multilingual Voices:50+ 音色库原生支持最多 25 种语言,并可将自建克隆音色变为多语言

    Cartesia 发布 Multilingual Voices,50+ 音色库音色原生支持最多 25 种语言,自建克隆音色也可扩展为多语言。每个语言和口音由母语者按评分标准审核,检查口音是否保持以及日期、数字、货币是否按当地方式朗读。用户可用同一 voice ID 搭配不同 locale 调用 TTS,或在仪表盘中为克隆音色最多添加 9 种新口音和语言。

9月22日周二
  1. Tavus Blog34

    Tavus 为 PALs 推出长期记忆功能 Memories,围绕关系构建对话连续性

    Tavus 为 PALs 推出长期记忆功能 Memories,按每段 PAL 与用户的关系维护独立的记忆存储,包含描述用户偏好与目标的 Profile 和记录对话事件的 Timeline。该设计将实时对话所需的持续关系上下文与按需历史检索分离,避免每次响应前增加搜索步骤;记忆内容可查看、纠正和删除。

  2. Tavus Blog66

    Tavus 发布 Phoenix-4.5:实时数字人从全脸生成迈向全身动作与对话表现力

    Tavus 推出 Phoenix 系列实时数字人模型的 4.5 版本,官方定位为三年来在自然度上最大的一次跨越:在 Phoenix-4 情绪可控、主动聆听与连续面部动作的基础上,把生成范围从嘴部、面部扩展到肩部姿态、头部节奏等身体语言。文章为研究与技术综述,说明该版本对实时对话中临场感(presence)的改进。

    推荐理由:实时数字人方向的旗舰产品迭代,直接关系到 Conversational Video Interface 的对话自然度。

9月17日周四
  1. LiveKit Blog20

    LiveKit 推出创业扶持计划:提供约 2.3 万美元额度,覆盖推理与 LiveKit Cloud

    LiveKit 推出 Startup Program,为符合条件的早期创业公司提供约 23,000 美元总价值额度,包括 7,000 美元推理额度(覆盖 7 家合作方)、10,000 美元 LiveKit Cloud 额度和一年 Scale 计划(原价 500 美元/月)。所有模型通过 LiveKit Inference 调用,无需单独账号或 API key,且默认启用零数据留存。申请者须员工少于 50 人、融资低于 500 万美元,并将语音、视频或物理 AI 作为产品核心。

8月27日周四
  1. Daily.co Blog62

    Pipecat 发布 PhoneLLM Alpha 1 语音智能体开源模型与 PhoneBench v1 基准

    Pipecat 团队发布 PhoneLLM Alpha 1,一个面向语音智能体场景的开源权重模型,基于 NVIDIA Nemotron 3 Nano 30B-A3B 全参数微调,采用 MoE 架构、3.5B 激活参数,以 BSD 许可发布且无商用限制。官方称其表现与 GPT 5.6 Terra 相当,但成本低 94%、P95 首 token 时间快 1,300ms,单请求 TTFT P95 在 B200 上低于 100ms。同时发布 PhoneBench v1 基准,用 LLM 评审团评估电话智能体的说话风格、工具调用准确性与每分钟运行成本;权重已上线 HuggingFace,官方建议将 temperature 设为 0 并关闭 thinking。

    推荐理由:原文给出模型规格、延迟与成本测算方式,读者可据此判断自托管语音智能体是否划算。

8月20日周四
  1. LiveKit Blog52

    LiveKit Agent Observability 推出 PII 脱敏功能

    LiveKit 为 Agent Observability 新增 PII 脱敏功能,在录音和转写文本存入前自动移除姓名、地址、生日等敏感信息,对使用该功能的客户不额外收费。脱敏用 LLM 按上下文识别,转写文本中的词替换为标记,轨迹和日志中的敏感字段直接丢弃;由于词级 ASR 时间戳并非在所有 STT 模型上都可靠,音频改为删除整个轮次并以提示音替代。目前支持 10 组共 41 类 PII,需使用 LiveKit Agents SDK Python 或 Node.js 1.7.0 版本,数据保留 30 天后自动删除。

    推荐理由:LiveKit 用 LLM 按上下文做 PII 脱敏,并说明音频整轮删除的取舍,可据此判断合规方案是否够用。

8月14日周五
  1. LiveKit Blog40

    LiveKit 如何处理零数据保留(ZDR):全平台模型默认不保留、不训练

    LiveKit 宣布其 Inference 中所有 LLM、STT、TTS 模型默认启用零数据保留(ZDR),适用于所有套餐,无需开关或升级配置。ZDR 要求不保留、不记录日志、不训练、不聚合,LiveKit 通过合同、账户或工作区配置及逐请求参数强制第三方提供商遵守,不达标者不予接入。Agent 可观测性数据保留 30 天,Egress 录制存入用户自有云存储,语音克隆样本在最后使用 12 个月后删除。

8月13日周四
  1. LiveKit Blog62

    LiveKit Agents 推出 expressive mode,让语音智能体按对话情绪调整语气

    LiveKit 在 LiveKit Agents 中发布 expressive mode,用一个开关让语音智能体根据对话上下文调整语气。该模式在 LLM 提示中注入各家 TTS 的标记方言,由框架统一转换,并会把多句合并成更大块再送入 TTS,以稳定情绪和音高且不显著增加延迟。目前支持 Fish Audio、Inworld、Cartesia 和 SpaceXAI 的 LiveKit Inference 模型,前端可通过 lk.expression 属性获取情绪信号。

    推荐理由:LiveKit 官方说明 expressive mode 如何把 LLM 输出转成各家 TTS 的情绪标记,并给出开启方式与前端联动做法。

7月29日周三
7月20日周一
7月15日周三
5月19日周二
  1. Google AI Blog56

    Google 扩展 SynthID 与内容凭证的媒体溯源覆盖

    Google 公布内容透明度工具进展:SynthID 不可见水印已用于 AI 生成的图像、视频与音频,累计标注超过 1000 亿张图像/视频与 6 万年时长的音频;C2PA Content Credentials 从 Pixel 10 相机扩展到 Pixel 8/9/10 的视频拍摄。SynthID 验证已在 Gemini App 使用 5000 万次,并扩展到 Search 与 Chrome 的“Is this made with AI?”查询;OpenAI、Kakao、ElevenLabs 将引入 SynthID,Google Cloud 上线 AI Content Detection API。

    推荐理由:AI 生成媒体的水印与溯源正在成为音视频平台的合规基础设施,该更新给出规模化数据。

3月9日周一
  1. Tavus Blog40

    Tavus 推出 Raven-1 多模态感知系统,融合音视频实时理解对话意图

    Tavus 发布 Raven-1 多模态感知系统,将音频、视觉与时间动态统一处理并实时对齐,通过语调、表情、迟疑和语境判断用户真实意图,而非仅依赖文字转写。此前其 Raven-0 已让 AI 具备解读视觉语境的能力。该系统针对传统对话 AI 将语音转为文本后丢失语调、节奏、非语言声音和情绪变化等信息的问题,主张情绪是连续且分层的,无法归入固定类别。

2月4日周三
  1. Google AI Blog68

    YouTube 自动作配音扩展至 27 种语言:Expressive Speech 八语种上线并试点唇形同步

    YouTube 宣布自动配音面向所有创作者开放并扩展至 27 种语言:2025 年 12 月日均超 600 万观众观看 10 分钟以上自动配音内容;Expressive Speech 在英法德等 8 种语言上线以保留情绪表达,同时新增观众偏好语言设置与音乐/静音视频智能过滤,唇形同步处于试点阶段。

    推荐理由:全球最大视频平台的 AI 配音规模化数据与功能边界,是配音行业与 AI 增强的风向标。

5月6日周二
  1. Cartesia Blog40

    Cartesia 推出基于 Sonic 的专业语音克隆(PVC),Startup+ 套餐可自助使用

    Cartesia 推出基于 Sonic 文本转语音模型微调的专业语音克隆(PVC),可复刻音色、语调、风格与环境,现已登陆 Startup 及以上套餐并支持自助开通。训练免费,生成按每字符 1 credit 计费,与即时语音克隆相同;支持 15 种语言,可通过 Playground UI 和 API 使用。

10月30日周三
5月31日周五
  1. Cartesia Blog60

    Cartesia 发布低延迟语音模型 Sonic,模型延迟 135ms

    Cartesia 发布低延迟语音模型 Sonic,用于生成逼真语音,模型延迟为 135ms,官方称这是同类模型中最快的。Sonic 配套网页 playground 和低延迟 API,playground 提供面向客服、娱乐和内容创作的语音库,支持即时克隆和语音设计(语速、情感),这些能力均可通过 API 使用。Cartesia 表示其基于状态空间模型架构,并自建推理栈以降低延迟和成本,后续将发布关于新架构的更多细节。

    推荐理由:官方给出 Sonic 的 135ms 模型延迟与自研状态空间模型推理栈,可据此判断低延迟语音合成的当前水平。