跳到正文
热点事件观察中

AudioTETRIS:免训练压缩音频Token

1 篇报道1 个报道来源2 天前更新

先了解这件事

事件综述

Shreya Sajid、Anna Vettoruzzo 和 Joaquin Vanschoren 提出并发布 AudioTETRIS,一个免训练的两阶段音频 token 压缩框架:先以音频编码器的表示几何作为声学先验计算 token 重要性,再在 LLM 解码器中逐层进行 top-k 选择,无需额外训练或辅助模型。 据该研究称,在 Qwen2-Audio-7B、Phi-4-Multimodal 和 Audio Flamingo 3 上,仅保留 25% 音频 token 即可在多项语音任务上保持接近未压缩的性能,中等压缩率下可持平或超过全 token 准确率,并持续优于现有免训练基线。

根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv eess.AS
    AudioTETRIS:利用过渡重要性信号消除 Token,实现高效音频 LLM

    AudioTETRIS 是一个免训练的两阶段框架,利用音频编码器的表示几何作为声学先验,在 LLM 解码器中计算逐 Token 融合分数并逐层进行 top-k 选择,无需额外训练或辅助模型。在 Qwen2-Audio-7B、Phi-4-Multimodal 和 Audio Flamingo 3 上,仅用 25% 音频 Token 即可在多项语音任务上保持接近未压缩的性能,中等压缩率下可持平或超过全 Token 准确率,并持续优于现有免训练基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。