跳到正文
热点事件观察中

TTS-Q：语音扩散Transformer的4比特量化研究

1 篇报道1 个报道来源2 天前更新

先了解这件事

事件综述

Xiaoqin Feng等作者提出TTS-Q，对1B和3.5B文本转语音扩散Transformer做4-bit权重与激活（W4A4）训练后量化研究，称这是该架构上首个此类研究。作者称，4比特下强量化器可让可懂度接近全精度，但会持续损伤说话人音色，误差率虽低，声音却偏离目标说话人。 作者称，音色损失同时来自权重和激活量化，但只有激活部分具有精度调度可利用的时间步结构。TTS-Q从任务匹配的校准候选中筛选难量化项，并按预算均衡的混合精度调度，为后期前馈激活分配更高精度，在两个规模上均最优恢复音色且不影响可懂度。作者还称，部署的校准W4A4参考可降低GPU峰值内存。

根据报道生成 · 1 天前更新

最新进展10月12日 12:00
TTS-Q：面向文本转语音扩散 Transformer 的感知引导训练后量化

报道时间线

沿着报道，了解事件的不同侧面。

10月12日
  1. arXiv eess.AS
    TTS-Q：面向文本转语音扩散 Transformer 的感知引导训练后量化

    针对 1B 和 3.5B 文本转语音扩散 Transformer 的首个 4-bit 权重与激活（W4A4）训练后量化研究显示，量化会同时损伤权重与激活，但只有激活具备可被精度调度利用的时间步结构。TTS-Q 从任务匹配的校准候选中筛选难量化项，并按预算均衡的混合精度调度为后期前馈激活分配更高精度，在两个规模上均最优恢复音色且不影响可懂度。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。