arXiv eess.AS· Ming-Hao Hsu, Xiaohai Tian, Jun Zhang, Lu Lu, Yuxuan Wang, Zhizheng Wu·· 5 小时前评分34
几何对齐不等于功能等价：语音-文本模态差距的逐层分析
Geometric Alignment without Functional Equivalence: A Layer-wise Analysis of the Speech-Text Modality Gap
导读
研究对比四个开放权重语音 LLM 的跨层 CKA 与逐层答案 margin，发现 Qwen2.5-Omni 和 MiniCPM-o 在中间层语音与文本表示对齐、但后层答案 margin 仍不同，说明中层对齐不代表功能等价；Qwen2-Audio 则表现为弱对齐，属另一种失效模式。固定输入与 token 数下的注意力干预显示，后层注意力分配对答案码分离有因果影响，压缩语音信号或其 token 序列可修复部分仅语音场景的错误。
来源：arXiv eess.AS · arxiv.org