arXiv eess.AS· Xiaoqin Feng, Yuqi Li, Weilun Feng, Yi-Cheng Lin, Kai Li, Xianglong Wang, Kuo Yang, Chuanguang Yang, Yingli Tian, Wei Li, Zhongwei Cheng, Lin Chen·· 2 天前评分39
TTS-Q:面向文本转语音扩散 Transformer 的感知引导训练后量化
TTS-Q: Perception-Guided Post-Training Quantization of Text-to-Speech Diffusion Transformers
导读
针对 1B 和 3.5B 文本转语音扩散 Transformer 的首个 4-bit 权重与激活(W4A4)训练后量化研究显示,量化会同时损伤权重与激活,但只有激活具备可被精度调度利用的时间步结构。TTS-Q 从任务匹配的校准候选中筛选难量化项,并按预算均衡的混合精度调度为后期前馈激活分配更高精度,在两个规模上均最优恢复音色且不影响可懂度。
来源:arXiv eess.AS · arxiv.org