跳到正文

技术方向

实时音视频 最新动态

实时通信的技术与实践:SFU 架构、信令、端到端延迟、回声消除,以及 RTC 场景下的工程取舍。

60 条精选近 30 天 11 条共收录 150 条

更新

精选归档 · 第 3 页

6月1日周一第 41–60 条
5月25日周一
  1. 海外技术动态56

    Video API 定价拆解:视频分钟均价约 $0.004 的成本模型

    Tsahi Levent-Levi 分析 Video API 四种商业模式(按分钟、按 MAU、按 GB、自建):主流按分钟计费约 $0.004/视频分钟,一个成功的 POC 可能在 9 个月内从数千美元涨到 $80,000+/月;他建议先定商业模式再比厂商价格,并给出何时转向自建 SFU 的判断框架。

    推荐理由:实时音视频规模化的成本模型少有人系统写清,这篇文章给出了可对标的数字。

5月20日周三
  1. LiveKit Blog64

    LiveKit 实测:叠加摄像头与屏幕共享后音频质量是否劣化

    针对“开视频会拖累音频”的外部说法,作者在 LiveKit Cloud 上做三组 60 秒对照测试:纯音频时约 50kbps、0% 丢包、约 7ms 抖动、约 27ms RTT;加入 720p 摄像头(2.3Mbps)和屏幕共享(合计 3.9Mbps)后音频的码率、丢包、抖动、RTT 均无变化,视频侧则自动降码率;作者同时列明局限:单设备、单地点、理想网络、仅测音频带宽/丢包/抖动。

    推荐理由:用可复现的对照实验回应具体性能质疑并如实标注测试边界,是少见的音频质量实证。

5月9日周六
  1. 声网博客64

    声网详解 WebRTC Simulcast 多流传输与 SFU 选择性转发

    发送端同时编码 1080p/720p/360p 三路流(约 2Mbps/1Mbps/300Kbps),SFU 按订阅关系只转发合适的一路;文章覆盖 SDP 的 ssrc-group:SIM 与 RID 协商、setParameters 编码参数配置、切换时的 PLI/FIR 关键帧请求优化,以及与 SVC 在带宽消耗和兼容性上的对比。

    推荐理由:完整覆盖 Simulcast 从协商、实现到 SFU 转发的工程细节,并给出移动端编码负担的权衡。

5月8日周五
  1. 声网博客76

    OpenAI WebRTC 重构:Relay 与 Transceiver 分离

    针对“一会话一端口”与有状态 ICE/DTLS 会话在 Kubernetes 下的扩容冲突,OpenAI 将数据包路由与协议终止分离:Relay 只做无状态 UDP 转发并借 ICE ufrag 编码路由信息实现首包确定性投递,Transceiver 用 Go+Pion 运行完整 WebRTC 端点;该架构已全量上线,支撑 9 亿周活用户的实时媒体流量,客户端无感知。

    推荐理由:罕见的基础设施级披露,展示超大规模实时语音服务的 WebRTC 架构取舍与开源栈的生产验证。

  2. 声网博客66

    声网解析 SFU、MCU 与 P2P 架构差异及选型依据

    以 10 人会议量化三种架构的带宽与计算分布:P2P 每人需维护 9 条连接(约 18Mbps 上行),SFU 把客户端上行降到 1 路但服务端产生约 100Mbps 转发量,MCU 客户端压力最小但编解码计算成本最高;并给出 Simulcast/SVC、分层 SFU、CDN+RTC 混合等增强方案与适用场景。

    推荐理由:用具体数字讲清三种媒体服务器架构的成本结构与选型逻辑,是 RTC 架构选型的完整参考。

5月7日周四
  1. 声网博客62

    声网拆解首帧渲染时间:从信令到渲染的分段优化方法

    把首帧时间拆为信令连接、ICE 协商、设备初始化、编码传输、解码渲染五段分别埋点统计;优化手段包括信令就近部署与预连接、Trickle ICE 边收集边检查、进入大厅即预初始化摄像头、首帧降码率与优先传输、以及进度提示与头像占位;并分场景给出策略——1v1 追求绝对速度、多人会议分批加载防设备过载、直播权衡首帧与缓冲。

    推荐理由:首帧优化的完整方法论,分段统计与分场景策略可直接用于体验优化。

5月6日周三
  1. 声网博客60

    声网拆解卡顿率、丢包率与延迟对 RTC 体验的差异化影响

    按场景给出指标优先级:强交互场景延迟是第一杀手(端到端超 400ms 对话节奏被破坏),内容消费场景卡顿最致命,音频质量敏感场景丢包率需严控;并说明三者连锁反应——丢包超 10% 时卡顿率通常同步上升,以及声网在教育、社交、会议场景的分层保障策略(大班课教师端 400ms 内、学生端 CDN 3-5 秒)。

    推荐理由:把延迟、丢包、卡顿三个指标放进场景比较优先级,对质量监控体系设计有直接参考价值。

4月24日周五
  1. 中文技术动态58

    腾讯云 TWeTalk 与 TRTC 软硬一体方案:AI 语音对话全链路延迟压至 1 秒内

    源自腾讯全球数字生态大会的分享:TWeTalk 智能硬件 AI 对话方案与 TRTC 组成端云协同架构,音视频端到端延迟稳定低于 300ms,AI 语音对话全链路延迟压缩至 1000ms 以内,并指出长对话上下文丢失率约 12%、中英混杂识别错误率约 8% 的行业痛点。

    推荐理由:腾讯云在智能硬件 AI 对话方向的代表性方案,含明确延迟与痛点数据。

4月3日周五
  1. LiveKit Blog56

    LiveKit 推 data tracks:WebRTC 通道承载非音视频数据

    data tracks 把任意二进制帧接入 LiveKit 的 track 基础设施,面向遥操作、传感器与遥测场景:SFU 按订阅选择性转发,走无序丢失容忍的 WebRTC data channel,采用 12 字节自定义 RTP 风格包头以吃满 MTU,房间内并发轨道理论上限 65,535;已支持 JS、Rust、Python、C++、Unity SDK。

    推荐理由:把 RTC 的选择性转发能力扩展到非音视频数据,对机器人与遥操作类实时应用是实用的能力更新。

3月24日周二
  1. WebKit Blog63

    Safari 26.4 支持 WebTransport 与多麦克风采集

    WebKit 在 Safari 26.4 加入 WebTransport,面向低延迟场景(多人游戏、实时协作、视频会议);macOS 上 getUserMedia 可同时采集多路麦克风并动态把已有采集迁移到合适处理单元、同时管理回声消除,便于做播客工具与多路录音;此外增强字幕外观自定义(字号、颜色、背景等)。

    推荐理由:WebTransport 落地与多麦克风采集是实时音视频在 Safari 上的能力补齐。

3月23日周一
  1. LiveKit Blog58

    LiveKit 论语音 AI 传输选型:WebRTC 优于 WebSocket

    文章指出把原始音频推过 WebSocket 会继承 TCP 的队头阻塞——单包丢失即让接收端停滞数百毫秒,后续音频积压后突发播放,破坏对话节奏;而 WebRTC 为实时媒体设计,在丢包恢复、抖动缓冲与拥塞控制上开箱即有,作者将其定位为“demo 能跑、生产会垮”的架构差异。

    推荐理由:从协议特性出发解释语音 Agent 传输层选型,对自建实时链路的团队有直接参考意义。

2月13日周五
  1. Daily.co Blog71

    Pipecat 发布语音智能体 STT 基准:对比 10 家服务的延迟与语义准确率

    Pipecat 团队发布面向实时语音智能体的 STT 基准,在 1000 条真实人类语音样本上测试 10 家 STT 服务,同时衡量转写延迟(TTFS)与语义准确率。中位延迟上 Deepgram Nova 3(247ms,1.62% WER)、Soniox(249ms,1.29% WER)、Speechmatics(495ms,1.07% WER)位于帕累托前沿。基准用 Claude 做语义 WER 评估,只统计会导致 LLM 理解不同的错误,并强调 P95 延迟与 finalization 支持比中位数更影响对话体验;代码已在 GitHub 开源,Pipecat 0.0.102 起可设置 ttfs_p99_latency 参数。

    推荐理由:Pipecat 团队用 1000 条真实语音对比 10 家 STT 服务的延迟与语义准确率,并给出可自行复现的基准工具。

2月2日周一
  1. Daily.co Blog60

    Daily 发布语音智能体 LLM 基准 aiwf_medium_context,测试长多轮工具调用与延迟

    Daily 发布语音智能体基准 aiwf_medium_context,测试文本模式 LLM 与语音到语音模型在约 30 轮长对话中的工具调用、指令遵循和知识引用,源码已在 GitHub 开源。结果显示已有三个模型在该基准上各项指标达到 100%,但都太慢,无法满足语音智能体所需的 1500ms 以内语音到语音响应(约对应文本模型 700ms TTFT);生产中最常用的仍是 GPT-4.1 和 Gemini 2.5 Flash,AWS Nova 2 Pro 在性能与延迟上与之持平。语音到语音模型中 Ultravox 0.7 表现突出,GPT Realtime 通过率为 86.7%,低于 GPT-4.1 的 94.9%。

    推荐理由:Daily 公开语音智能体基准的源码与结果,可看到长多轮对话下模型能力与延迟之间的取舍。

1月26日周一
  1. 中文技术动态68

    火山引擎 RTC 支撑抖音百万并发"云侃球":单房间 500 人、9 人上麦的边看边聊架构

    文章拆解抖音世界杯"边看边聊"方案:单房间 500 人加入、9 人上麦、其余旁听,对比语音聊天室与 RTC 互动语聊两种方案后选择后者以避免 CDN 转推 1-3 秒的聊天不同步,RTC 通话语音切片存储供审核并提供踢人/拉黑运维 OpenAPI。

    推荐理由:字节系大型赛事语聊场景的第一手工程架构文,含方案选型对比。

1月22日周四
  1. LiveKit Blog70

    LiveKit 宣布 1 亿美元 C 轮融资,估值达 10 亿美元,Index Ventures 领投

    LiveKit 于 1 月 22 日宣布由 Index Ventures 领投的 1 亿美元 C 轮融资,Salesforce Ventures、Hanabi Capital 及老股东 Altimeter、Redpoint 跟投,估值 10 亿美元;其 Agents 框架月下载超 100 万次,网络每年承载数十亿次语音 Agent 通话,并已与全球电话运营商直连 PSTN;资金将用于扩展面向语音 AI 的算力、存储与网络服务。

    推荐理由:实时音视频基础设施公司在语音 Agent 浪潮中的标志性融资,印证 RTC 云服务的价值重估。

12月12日周五
  1. WebKit Blog58

    Safari 26.2 开放 WebRTC RTP 头部扩展参数接口

    WebKit 在 Safari 26.2 提供 RTCRtpHeaderExtensionParameters 接口用于描述媒体流使用的 RTP 头部扩展,使音频电平、视频方向、时序与应用自定义数据等元数据可与已加密的媒体负载分开控制,让开发者更细粒度地决定哪些元数据对网络中间设备可见;同版本还修复了 HDR 图像在 CSS 背景、边框与 SVG 中的解码渲染,以及 WebRTC 摄像头指示灯不熄灭等问题。

    推荐理由:RTP 头部扩展接口关系 WebRTC 元数据与端到端加密边界,属标准化进展。

8月19日周二
  1. Cartesia Blog55

    Cartesia 发布语音智能体开发平台 Line

    Cartesia 发布语音智能体开发平台 Line,面向开发者提供代码优先的构建方式,可从文本提示或模板在数分钟内创建首个智能体,并通过 CLI 和 GitHub 集成在本地开发、一条命令部署。Line 会记录已部署智能体的全部通话,保存音频与转写文本,报告延迟等系统指标并提供日志,支持自定义 LLM-as-a-judge 指标评估通话。Line 与 Cartesia 的 Sonic 文本转语音和 Ink 流式语音转文本模型一同部署,企业版可完全本地部署并对模型微调。

    推荐理由:Cartesia 把语音智能体的开发、评测与部署整合进一个代码优先平台,并说明与 Sonic、Ink 模型的协同方式。

6月10日周二
  1. Cartesia Blog71

    Cartesia 发布流式语音转文字模型 Ink-Whisper

    Cartesia 推出流式语音转文字(STT)模型系列 Ink,首发模型 Ink-Whisper 基于 OpenAI 的 Whisper 改造,面向实时语音应用。官方称其采用动态分块处理变长音频片段,在电话音质、专有名词、背景噪声、口语停顿和口音等数据集上,词错误率优于 whisper-large-v3-turbo 基线;在停止说话后完成转写的时间(TTCT)中位数为 66ms、P90 为 98ms,并称其为所测试流式 STT 模型中最快。定价为每秒 1 credit,Scale 套餐下约 $0.13/hr,可集成 Vapi、Pipecat 和 LiveKit。

    推荐理由:Cartesia 发布流式语音转文字模型 Ink-Whisper,给出与 Whisper 基线和多家流式模型的 WER、TTCT 对比数据,可据此判断实时语音场景的选型。

5月31日周五
  1. Cartesia Blog60

    Cartesia 发布低延迟语音模型 Sonic,模型延迟 135ms

    Cartesia 发布低延迟语音模型 Sonic,用于生成逼真语音,模型延迟为 135ms,官方称这是同类模型中最快的。Sonic 配套网页 playground 和低延迟 API,playground 提供面向客服、娱乐和内容创作的语音库,支持即时克隆和语音设计(语速、情感),这些能力均可通过 API 使用。Cartesia 表示其基于状态空间模型架构,并自建推理栈以降低延迟和成本,后续将发布关于新架构的更多细节。

    推荐理由:官方给出 Sonic 的 135ms 模型延迟与自研状态空间模型推理栈,可据此判断低延迟语音合成的当前水平。