跳到正文

内容形态

教程实践 最新动态

拿来就能用的实操内容:参数配置、排障思路、性能调优与踩坑复盘。

46 条精选近 30 天 6 条共收录 110 条

更新

精选归档 · 第 3 页

4月17日周五第 41–46 条
  1. LiveKit Blog70

    LiveKit 逐项对比语音 Agent 两种架构:STT-LLM-TTS 级联与端到端 Realtime

    LiveKit 对照级联管线(STT-LLM-TTS)与实时端到端(S2S)模型在延迟、工具调用、话轮检测、语音自然度、可控性与调试、成本、合规与电话场景上的差异:实时模型在情绪与韵律感知、串行开销上有结构优势,但工具调用准确率与可定制性较弱;管线在每层可观测、可替换、可在文本层脱敏 PII、可做区域数据驻留上更可控,但需要靠流式重叠(部分转写进 LLM、token 边到边进 TTS)才能压到接近实时模型。文章另给出两种混合方案:realtime 模型配独立 STT,以及半级联(realtime 只出文本、由独立 TTS 出声)。并指出电话网络为 8kHz G.711 音频,而实时模型多按 16–48kHz WebRTC 音频训练,呼叫中心场景管线通常更可靠。

    推荐理由:语音 Agent 架构选型的系统性对照,覆盖延迟、工具调用与合规等实际决策维度。

4月16日周四
  1. LiveKit Blog64

    LiveKit 用观察者模式做语音 Agent 护栏:后台模型读转录并向上下文注入处置

    LiveKit 给出观察者模式(observer pattern)的完整实现:通过 AgentSession 的 conversation_item_added 事件旁路监听转录,用更强、可更慢的独立 LLM 异步做策略分类,再以 update_chat_ctx 把护栏指令作为系统消息注入主 Agent 上下文,主 Agent 在下一轮生效,全程不阻塞对话;必要时观察者可直接结束通话或接管控制。示例中主会话使用 gpt-4.1-mini、观察者使用 gpt-4.1,并以网约车乘客被司机要求线下现金支付的违规场景演示分类与响应分离。文章还列出三项工程细节:同一违规类型每会话最多注入一次、并发保护确保同时只跑一次评估且不丢用户轮次、以及 JSON 解析失败的兜底。

    推荐理由:把安全策略与对话模型解耦的可复用工程模式,直接缓解复杂护栏挤占对话能力的问题。

4月13日周一
4月1日周三
  1. LiveKit Blog62

    LiveKit 拆解 talker-reasoner 模式:快慢双模型加异步工具,让语音 Agent 不阻塞

    LiveKit 介绍 subagent delegation(又称 talker-reasoner、快脑慢脑)模式:每个会话轮次由延迟优化的主 Agent(示例用 google/gemma-4-31b-it)处理,需要多步推理或慢工具的任务交给后台推理模型(示例用 google/gemini-3.1-pro),两者仅通过一个异步工具连接——主 Agent 调用后首次进度更新即释放对话,可继续应答或追问,子 Agent 结果在空闲时以追加回复返回,且会话历史不进入子 Agent 以保持轮次成本低。文章同时给出不适用情形:答案需先核实(价格、医疗建议)、单个快模型已够用、主 Agent 无事可做只能念填充话术、以及通话普遍短于 30 秒。

    推荐理由:面向长耗时推理的语音 Agent 编排模式,给出了可落地的分工与适用边界。

3月3日周二
  1. 海外技术动态60

    直播编码新趋势:用 VMAF 直接驱动码率控制闭环

    Streaming Learning Center 盘点直播编码器把感知质量指标纳入率控闭环的进展:MainConcept 的 VMAF-E 以实时 VMAF 代理在编码序内驱动率控,Synamedia 用 pVMAF 实现按频道的画质目标与优先级调度,Meta 与 FFmpeg 7.0+ 将 PSNR/SSIM/VMAF 用于实时监控与机群可视化。文章建议采购直播编码器时重点确认三件事:是否暴露可独立验证的指标、指标是否在率控环内、能否按频道设定画质目标。

    推荐理由:质量指标从离线评估走向在线率控是直播编码的重要工程趋势,文中给出可落地的采购核查清单。

1月26日周一
  1. 中文技术动态68

    火山引擎 RTC 支撑抖音百万并发"云侃球":单房间 500 人、9 人上麦的边看边聊架构

    文章拆解抖音世界杯"边看边聊"方案:单房间 500 人加入、9 人上麦、其余旁听,对比语音聊天室与 RTC 互动语聊两种方案后选择后者以避免 CDN 转推 1-3 秒的聊天不同步,RTC 通话语音切片存储供审核并提供踢人/拉黑运维 OpenAPI。

    推荐理由:字节系大型赛事语聊场景的第一手工程架构文,含方案选型对比。