跳到正文
热点事件持续更新

面壁智能开源MiniCPM-V 4.7端侧多模态模型

1 篇报道1 个报道来源12 小时前更新

先了解这件事

事件综述

面壁智能与OpenBMB开源了MiniCPM-V 4.7,包含35B-A3B和1B两个版本。其中35B-A3B是MiniCPM-V系列首个MoE模型,总参数35B、每次推理只激活3B,官方称约3G内存即可在iOS、安卓设备上流畅运行,解码速度可达每秒13个token以上。 为降低端侧运行门槛,团队采用前瞻专家调度(LES)提前预取专家权重,称在16GB内存的iPad Pro M4上综合提升5倍解码速度,并配合DSpark草稿模型在M5 Mac上平均再提升17%;同时推出自回放微调以减少定制后的通用能力遗忘。 该模型支持iOS、安卓和鸿蒙部署,发布当天完成了瑞芯微、后摩、Intel、AMD和Arm等芯片平台的适配。上述性能与适配情况均来自官方说法。

根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. 量子位
    面壁智能开源 MiniCPM-V 4.7:35B-A3B 约 3G 内存可在 iPhone 断网运行

    面壁智能与 OpenBMB 开源 MiniCPM-V 4.7,含 35B-A3B 和 1B 两个版本,前者总参数 35B、每次推理激活 3B,约 3G 内存即可在 iOS、安卓设备上运行,官方称解码速度可达每秒 13 个 token 以上。团队用前瞻专家调度(LES)提前预取专家权重,在 16GB 内存的 iPad Pro M4 上综合提升 5 倍解码速度,并配合 DSpark 草稿模型在 M5 Mac 上平均再提升 17%;同时推出自回放微调以减少定制后的通用能力遗忘。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。