跳到正文
9月21日周一
9月18日周五
  1. Cactus Engineering Blog19

    如何为 Needle 3 设计工具:把约束写进 schema 与语法

    Cactus 分享为 Needle 3 设计工具集的规则:每个动作一个工具,参数必须从请求原文中复制,无对应文本的必填参数会直接扣留调用。工具名和枚举值应使用用户会说的词,取值范围、枚举、长度等约束编译进解码语法,使非法值无法生成。描述无法穷举的说法可用触发器正则匹配,将解码限定到对应工具并强制产生调用。

  2. Cactus Engineering Blog50

    Cactus 详解 Needle 的 .cact 单文件格式与 2.125 比特量化

    Cactus 介绍其端侧模型 Needle 使用的 .cact 单文件格式:196 字节头部携带全部架构几何信息,无名张量目录按前向顺序排列,权重以 128 个一组做 Hadamard 旋转后按 Lloyd-Max 码本量化,CQ2 下每权重 2.125 比特。内核直接读取打包索引做查表与 sdot 累加,不展开权重,20 层 needle3.cact 为 29 MB、581 个张量。文中还给出用 struct 解析头部与目录的二十行 Python 代码,并说明同一容器可承载语音模型 Whistle。

    推荐理由:原文拆解了 .cact 单文件格式的头部、目录与分组量化设计,并给出二十行解析代码,可迁移到自研端侧模型加载器。

9月9日周三
  1. LiveKit Blog62

    LiveKit 解释语音智能体中 VAD inference is slower than realtime 警告的含义与排查方法

    LiveKit 说明语音智能体日志中的 VAD inference is slower than realtime 警告与 STT、TTS、LLM 模型无关,指的是智能体进程内的语音活动检测模型处理 32ms 音频窗口耗时超过 32ms,警告中的延迟表示 VAD 落后实时音频的程度,Python 以秒、Node.js 以毫秒报告。排查应先排除阻塞事件循环的同步代码,再检查 CPU 负载,可通过 VAD 的 metrics_collected 事件中 inference_duration_total 与 inference_count 的比值判断是 CPU 饥饿还是事件循环阻塞;不要给 VAD 增加线程或调大 max_buffered_speech、num_idle_processes。

    推荐理由:LiveKit 官方拆解 VAD 落后于实时音频的成因与排查顺序,可对照日志中的延迟数值定位是 CPU 还是事件循环问题。

  2. 声网博客24

    停车场云值守如何把摄像头画面实时搬进微信小程序:声网方案解析

    声网针对停车场云值守场景,将微信小程序 live-pusher/live-player 组件封装为标准 RTC 接口,解决小程序不支持 WebRTC 协议栈、仅支持 H264 编码的接入难题。其 SD-RTN 网络配合 FEC 与 NACK,实测 80% 丢包下音频仍清晰、40% 丢包下视频基本连贯,并支持多路视频流并发接入与毫秒级首帧出图。

  3. 中文技术动态52

    SRS WebRTC over TCP 实战:不经 TURN 的 TCP 直传配置与端口复用方案

    讲解 SRS 的 WebRTC over TCP 直传方案:无需部署 TURN,通过 SRS_RTC_SERVER_TCP_ENABLED 等环境变量即可让 UDP 不可用网络下的 WebRTC 走 TCP;支持与 HTTP API/HTTP-FLV 复用同一 TCP 端口(如 8080),并可配合 rtc_to_rtmp 让一个端口同时服务 WebRTC 与 HTTP 直播,便于负载均衡器转发。

    推荐理由:UDP 受限网络(企业防火墙、运营商 NAT)是 WebRTC 落地常见痛点,此文给出可直接落地的配置方案。

  4. 中文技术动态58

    SRS 从 1.0 到 8.0 版本演进全览:7.0 单线程架构与 8.0 的 AI 协作开发模式

    结合 ossrs/srs 仓库源码与 CHANGELOG 梳理 SRS 各版本演进:7.0(代号 Kai)带来全协议 IPv6、RTMPS、RTSP 播放与统一单线程架构,计划 2026 年底发布;8.0(代号 Free)2026 年启动,AI(Codex 工作流)成为主要贡献者,已近乎重写 SRS Proxy 并将单测覆盖率从 40% 提至 88%。

    推荐理由:SRS 是全球使用最广的开源流媒体服务器之一,此文系统呈现其架构决策与 AI 驱动的社区维护新模式。

  5. 中文技术动态55

    SRS 负载均衡与集群实践:Edge/Origin 集群、一致性哈希与 WebRTC 为何难用 Edge 分流

    以 SRS 官方博客《Load Balancing Streaming Servers》为骨架,结合仓库源码讲解负载与过载判定、DNS/HTTP-DNS 服务发现、Vhost 与一致性哈希、HTTP 302 重定向,以及 Edge Cluster、Origin Cluster(基于代理服务器的新方案)与 WebRTC Cascade 三种集群形态;并解释 WebRTC 因高 CPU 消耗与 PeerConnection 内流量动态变化而难以用 Edge 均衡的原因。

    推荐理由:自建流媒体集群的核心工程问题,文章覆盖了容量评估与调度策略选择的完整方法。

9月1日周二
8月24日周一
  1. LiveKit Blog62

    LiveKit 解析语音智能体短语音应答失败的原因与排查方法

    LiveKit 发文梳理语音智能体对 yes、no、ok 等短语音应答失败的原因,指出回合结束需要 final_transcript 和 end_of_speech 两个事件同时满足,中间转写不会关闭回合。文章列举 STT 未生成最终转写、端点检测过于激进或过于宽松、噪声抑制误删短语音、SIP 通话质量差以及 backchannel 被误判为打断等成因,并给出对应做法,包括启用 transcription_timeout 做优雅恢复、turn_detection="stt" 时将 endpointing.min_delay 设为 0、按场景选择 voice isolation 或 background noise suppression、优先使用 G.722 等支持 HD voice 的编解码器,以及用自适应打断处理识别 backchannel。

    推荐理由:LiveKit 官方梳理短语音回合检测失败的常见成因,并给出可逐项排查的配置与恢复手段。

  2. Mux Blog62

    Mux 复盘基础码率阶梯:保留 270p 并新增 720p 后成本与画质如何变化

    Mux 将基础码率阶梯从 270p/480p/1080p 调整为 270p/480p/720p/1080p,于 4 月通过功能开关逐步上线。对比上线前后各一个月的数据,720p 交付分钟数从约十分之一升至约一半,480p 降至个位数百分比,270p 基本不变;每分钟交付字节增加约 6.5%,PTE 调优抵消近 5%,Video Quality Score 从 99.1 升至约 99.7,起播延迟改善、拖动延迟持平。Mux 曾评估删除 270p,实测折叠到 480p 的缓存效率收益有限,最极端情况仅打平,因此保留该档。

    推荐理由:Mux 用真实 CDN、存储与 QoE 数据复盘码率阶梯取舍,可迁移到自建转码阶梯的决策方法。

8月20日周四
8月18日周二
  1. 声网博客36

    ESP32 低资源设备如何做语音通话:内存、采样率与网络参数优化

    针对 ESP32、ESP32-S3 等低资源设备做语音通话,建议从 16 kHz、16 bit、单声道、20 ms 帧长起步,优先保证接通率与稳定性,再评估提升音质。声网 RTSA SDK 仅支持单声道、20 ms 发送间隔,包体积增量小于 400 KB,收发 320×240 H.264 时内存占用小于 2 MB,采集与编解码需设备端自行实现。

8月17日周一
  1. 声网博客62

    声网讲解游戏语音质量评估:接通率、卡顿率、延迟与弱网恢复的排查方法

    声网发布游戏语音质量评估方法,把语音可用拆成加入频道、发布订阅、音频播放等环节,建议接通率按进入队伍后 5 秒内成功加入频道并接收至少一名队友音频来统计,持续低于 98% 视为链路存在系统性问题。排查上先查频道、订阅和音频路由状态再查网络,用 audioLossRate、frozenRate、networkTransportDelay、jitterBufferDelay、e2eDelay 和 mosValue 区分网络卡顿与客户端卡顿,并给出首版质量看板的八项核心指标。

    推荐理由:声网把游戏语音质量拆成接通率、卡顿率、延迟和弱网恢复四类指标,并给出可复用的排查顺序与看板指标。

8月13日周四
8月12日周三
  1. 声网博客62

    声网拆解游戏语音卡顿排查:从玩家反馈到 RTC 指标的质量监控方法

    声网发布游戏语音质量监控方法,把语音可用链路拆成开启语音、获取频道信息、加入频道、发布订阅、音频播放五个时间点,建议接通率以最后必要环节为准,持续低于 98% 通常说明存在系统性问题。文章结合 Unity RTC 回调给出排查顺序:听不到先查频道、OnRemoteAudioStateChanged 订阅状态和音频路由,再查网络;卡顿用 OnRemoteAudioStats 的 audioLossRate、frozenRate、jitterBufferDelay、e2eDelay 和 mosValue 区分网络与客户端问题,并建议质量看板先保留接通率、可听首帧时间、卡顿率、端到端延迟 P95 等八项指标。

    推荐理由:声网结合自家 Unity RTC 回调,把游戏语音从玩家反馈到指标看板的排查链路拆成可落地步骤。

8月6日周四
  1. 腾讯云音视频专区66

    腾讯云弱网实战:FEC 不均等保护与 Jitter Buffer 调深

    以东南亚移动热点(丢包 8%-15%)客户案例切入:丢包超 5% 时 MOS 从 4.2 降到 3.0 以下、端到端超 400ms 对话节奏被破坏、抖动超 30ms 音频变调;工程上采用 ULPFEC 不均等保护(I 帧与音频 30%-50% 冗余、P 帧 10%-20%,20% 丢包下恢复率约 70%)、动态 Jitter Buffer 在 80-200ms 间伸缩,并观察到 BBR 在移动网络带宽突降时收敛比 GCC 快约 1.5 倍。

    推荐理由:有案例、有阈值、有参数取舍的弱网优化实战记录,FEC 分级与缓冲策略可直接借用。

8月5日周三
  1. LiveKit Blog62

    LiveKit 解析 agent 加入房间慢的原因与排查方法

    LiveKit 官方文章聚焦 agent 加入延迟,即后端请求 agent 到 agent 就绪进入房间的时间,并指出用户侧表现为持续响铃、静音、头像黑屏、客户端超时或提前离开。文章列出常见原因:LiveKit Cloud 上 Build 计划会缩容到零导致冷启动,自托管需维护预热进程池并调整 num_idle_processes,入口点阻塞代码和过大的容器镜像也会拖慢加入,虚拟形象会额外增加一个参会者并处于关键路径上。排查时可记录显式 dispatch 前与 await ctx.connect() 返回后的时间戳,并通过 job metadata 传递 ID 关联两条日志。

    推荐理由:LiveKit 官方拆解 agent 加入房间延迟的成因与排查路径,自托管团队可据此定位冷启动和扩容问题。

8月4日周二
  1. 声网博客22

    智能硬件语音交互架构解析:麦克风、RTC、ASR、LLM、TTS 全链路

    智能硬件语音交互的体验瓶颈往往不在 LLM,而在麦克风采集、回声消除、RTC 实时传输、流式 ASR、TTS 播放与打断控制等基础环节。文章拆解了从采集、前处理、实时传输到 ASR、LLM、TTS、播放与打断的完整链路,指出 RTC 是弱网下保持语音连续的关键通道,并建议量产前按真实场景验证麦克风、弱网重连、儿童语音与云端成本。

  2. 腾讯云音视频专区50

    腾讯云社区:私域直播低延迟优化指南,从协议选型到播放器缓冲的分层实践

    文章按场景区分延迟容忍度(课程类几秒可接受、答题/竞拍需更低),给出 RTMP 推流、HLS/HTTP-FLV 播放与 WebRTC 互动的选型组合,并强调 GOP 长度控制、减少转码层级、播放器缓冲区在"延迟与卡顿"间取平衡,以及首屏时间、卡顿率、丢帧率等监控指标。

7月31日周五
  1. Netflix Technology Blog22

    Netflix 如何为分析建模设备能力

    Netflix 构建了设备能力数据模型并接入内部系统的功能开关,用于在全球设备生态中做更细粒度的功能管理。其累积表记录每台设备的最新能力状态(如屏幕分辨率、支持的视频 Profile、环绕声、RAM 大小),直方图表则统计过去 28 天内按设备型号和软件版本划分的活跃设备数及能力支持情况。示例数据显示,某类流媒体棒设备全部支持 HD profile(playready),仅 20% 支持 UHD profile(hevc)。

7月30日周四
  1. 声网博客22

    旅游高峰期的 AI 语音助手:如何接住暴涨的咨询量

    声网对话式 AI 引擎为旅游平台 AI 语音助手提供实时交互底座,端到端响应延迟可低至 650 ms,打断响应 340 ms,选择性注意力锁定可屏蔽 95% 的环境人声和噪声干扰。该引擎在 80% 丢包率下仍可维持语音对话,断网 3 至 5 秒时也能继续处理连接恢复后的交互,酒店政策、订单状态等业务数据仍由平台自有系统提供。

7月27日周一
7月22日周三
  1. 声网博客62

    声网拆解 Voice Agent 延迟:STT、LLM、TTS 与 VAD 的可观测指标

    声网把 Voice Agent 的端到端延迟拆成 RTC 延迟、算法前处理延迟、ASR 延迟、LLM 延迟和 TTS 延迟,启用数字人时再加渲染延迟,并给出各段典型范围,如 RTC 150-300 ms、ASR 末字延迟 400-700 ms、LLM 首字节 250-1000 ms、TTS 首字节 100-350 ms。文章建议按轮次记录 session_id、turn_id、asr_final_ts、llm_first_token_ts、tts_first_audio_ts、interrupt_detect_ts 等字段,并分别观测 ASR 的 TTLW 与 WER、LLM 的 TTFB 与 TTFS、TTS 首帧音频、VAD 的起止检测延迟和打断成功率。选型阶段可用声网 AI 模型评测平台对比 ASR、LLM、TTS 组合的 P50、P90、P99 延迟与成本,上线后再用会话级 trace 定位瓶颈。

    推荐理由:把 Voice Agent 的端到端延迟拆成 RTC、ASR、LLM、TTS、VAD 各段,并给出可采集的会话字段与仪表盘结构,适合直接对照搭建观测体系。

7月21日周二
  1. LiveKit Blog66

    LiveKit 官方指南:诊断 LiveKit Agents 中的事件循环阻塞

    LiveKit 发布指南,说明 LiveKit Agents 每个任务运行在独立子进程中,由 supervisor 通过事件循环上的 ping/pong 健康检查监控,循环阻塞会导致响应延迟、进程被杀并在约 15 秒内被新实例替换。内置事件循环监控在 Python livekit-agents 1.8.1+ 和 Node.js @livekit/agents 1.9.1+ 默认开启,对 100ms 及以上的停顿告警并给出阻塞代码行,排查可用 py-spy、asyncio debug 模式和 Node.js 事件循环延迟测量。

    推荐理由:LiveKit 官方梳理了阻塞事件循环的日志特征与排查手段,可对照自家 Agent 的告警和 trace 定位问题。

7月17日周五
7月16日周四
  1. LiveKit Blog38

    如何构建不会跑偏的语音 Agent:LiveKit 酒店前台示例的分层防护实践

    LiveKit 以酒店前台参考 Agent 为例,讲解如何让语音 Agent 不脱离脚本:先用结构化提示词设定身份与护栏,再用确定性代码强制校验规则,如用 Python 做卡号长度与 Luhn 检查、用 max_tool_steps 限制工具调用链。文章强调提示词防护对蓄意攻击很弱,真正的规则必须在代码层执行。

7月15日周三
  1. 声网博客74

    声网首测 GPT-Live:响应延迟中位数 1099ms、波动缩 5 倍

    Agora 实验室用 iPhone 13 加人工发声设备、可控网络模拟丢包、双轨录音逐帧取时、每项 n=30 的方法测试三代 ChatGPT 语音模式:GPT-Live-1 正常网络中位响应 1099ms(P90 1203ms、SD 104ms),Advanced Voice Mode 为 1304ms(P90 2318ms、SD 489ms),Standard 级联模式 5197ms;10% 上行丢包下 GPT-Live 仅增 314ms,同级丢包的 P90 仍优于零丢包的上一代;插话停止延迟中位数 1399ms 比上一代慢 498ms,但背景人声误触发从 22 次降到 1 次。

    推荐理由:方法论透明、样本量与局限都交代清楚的端到端延迟实测,弱网下的对比尤其有信息量。

7月13日周一
  1. 中文技术动态64

    火山引擎 × 央视网世界杯直播:首帧起播 400ms 内、端到端延迟最低约 1 秒

    火山引擎介绍与央视网的 2026 世界杯转播合作:长视频首帧起播时长压至 400ms 以内,上届世界杯千万级并发下端到端延迟曾压至约 1 秒,本届进一步压缩,并依托"秒级监控、1 分钟级响应、3 分钟止损"SOP 与 AI 智能调度保障传输。

    推荐理由:国内大型赛事直播的最新技术指标披露,反映火山引擎视频云能力边界。

7月10日周五
7月8日周三
  1. 声网博客34

    2026年7月值得一试的5个免费语音AI开发工具

    声网博客整理了5个可直接上手的免费语音AI工具,覆盖TTS、ASR与端到端语音对话链路。Bosonai Higgs TTS 3以4B参数提供零样本声音克隆和100+语言支持,API免费限速且兼容OpenAI格式;HuggingFace开源语音栈由Parakeet、Gemma 4 31B和Qwen3TTS组成,已在超9000台Reachy Mini机器人上部署。其余为浏览器转录工具SoundWise、支持单词级编辑的开源TTS ViiTorVoice,以及研究导向的扩散式ASR模型。

7月7日周二
  1. LiveKit Blog66

    LiveKit Agents 异步工具:用 ctx.update() 消除慢后端调用期间的通话静默

    livekit-agents 1.6.0(2026-06-11)起支持异步函数工具:工具是同步的直到它调用 await ctx.update(message),首次调用会立即把控制权交还给 LLM 并以该消息作为工具返回值,语音 Agent 因此可以先播报进度、后台继续执行,后续更新只在 Agent 与用户都空闲时播报。文章以退款场景演示(验证订单 6 秒 + 出款 8 秒,共约 14 秒静默导致用户挂断),并给出可取消工具(cancelable 标志会向 LLM 暴露取消工具)、重复调用的四种处置模式以及 ctx.with_filler() 在更新间隙插入填充语音的写法。

    推荐理由:针对语音 Agent 工具调用冷场这一高频体验问题,给出可直接复制的框架级实现。

6月30日周二
  1. Cartesia Blog30

    如何为真实场景选择语音 AI 模型:ASR、TTS 与轮次检测评估指南

    Cartesia 提出按真实用例而非实验室基准选择语音 AI 模型,指出演示中 600–800ms 的往返延迟在真实电话网络上会升至 2–4 秒、P95 达 5 秒。评估 ASR 应看完整转写时间 TTCT 而非首 token 延迟,端到端低于 200ms 对话才自然,超过 1 秒用户会重复发言;轮次检测的精确率与召回率决定打断和响应表现。

  2. Cartesia Blog22

    语音 AI 术语入门指南:理解、评估和构建对话式语音 AI 的 20 个关键术语

    Cartesia 发布语音 AI 术语入门指南,梳理构建对话式语音 AI 所需的 20 个关键术语,涵盖 STT、VAD、TTS 等核心语音处理链路概念。文章指出,打断处理、轮次检测和语音隔离等能力决定语音代理的对话体验,其 Ink-2 STT 模型已将轮次检测内置,无需单独集成 VAD 模型。