跳到正文
Cartesia Blog·· 2024-08-28精选评分60

Cartesia 发布端侧智能更新:开源 SSM 库 Edge、1.3B 模型 Rene 与 Sonic On-Device 内测

The on-device intelligence updateAt Cartesia, our mission is to build the next generation of AI: ubiquitous, interactive intelligence that runs wherever you are.[Research]Aug 28, 2024

导读

Cartesia 发布端侧智能更新,推出开源(Apache 2.0)SSM 库 Edge、1.3B 参数开源语言模型 Rene,以及进入内测的 Sonic On-Device。Edge 面向 Apple M 系列芯片提供 Mamba-2 的 Metal 内核,并配套 Python 包 cartesia-mlx;Rene 采用 Mamba-2 与 MLP 交替、穿插滑动窗口注意力的混合结构,在 1.5T tokens 的 Dolma-1.7 上训练,推理时内存占用固定,支持 8-bit 和 4-bit 量化。Sonic On-Device 支持端侧低延迟实时流式生成语音,具备即时克隆与可控发音、语速和情感。

推荐理由

Cartesia 把 SSM 架构落到端侧,同时开源模型与推理库,可据此判断端侧语音与语言模型的可行路径。

来源:Cartesia Blog · cartesia.ai