EAGLE-ASR 无损加速 ASR 推理框架发布

Sen Zhang 等作者提出并发布 EAGLE-ASR，一个用 EAGLE 风格投机解码加速语音识别（ASR）推理的框架，作者称其在加速的同时严格保持无损输出质量。 该框架的 Speech-Draft 轻量自回归模块同时利用编码器声学特征与目标 ASR 模型的分层解码器表示，并配合多步生成策略和自蒸馏数据训练。作者称，在 Whisper 与 Conformer AED 模型上分别实现最高 1.9 倍和 2.4 倍的无损加速，持续优于现有的 ASR 投机解码基线，并可泛化至多语言 ASR 与语音翻译任务。上述加速效果均为作者在论文中的报告。

根据报道生成 · 1 天前更新

还没有足够的连续观测数据，暂不绘制趋势。