事业顺景面壁小钢炮4.0发布:性能比肩 Qwen-3-8B,极限220倍提速
事业顺景 新浪科(🐹)技讯 6月10日下午消息,近日,面壁智能第四代“面壁小钢炮” MiniCPM4.0 端(🧖)侧模(🍕)型(代号“前进四”)发布。据悉,第四代小钢炮拥(🐀)有 8B 、0.5B两种参数规模,实现了同级最佳的模型性能。可让长文本、深思考在端侧真正跑起来,实现220倍极限加速。
事业顺景 其中,MiniCPM 4.0-8B 模型为稀疏注意力模型,在MMLU、CEval、MATH500、HumanEval等基准测试中(🕎),以仅22%的训练开销,性(🎮)能比肩 Qwen-3-8B、超越Gemma-3-12B。MiniCPM 4.0-0.5B在性能上,也较更大的Qwen-3-0.6B、Llama 3.2实现仅2.7%的训练开销,一半参数性能翻倍,并实现了最快 600 Token/s的极速推理速度。
事业顺景 相较于Qwen-3-8B、Llama-3-8B、GLM-4-9B等同等参数规模端侧模型,实现了长文本推理速度5倍常规加速以及最高 220倍加速(显存受限极限场景下测出),让端侧模型长文本推理“快如闪电”。面壁智能联合创始人(🐞)兼首席科学家刘知远在与新浪科技沟通中表示,“最高(🍺)220倍(🖇)加速,其实是建立在我们模型架构、数据治理、软硬件结合、训练等方面全栈创新优化成果之上的。”(🖖)
事业顺景 刘(🛋)知远指出,220倍的加速看上去比较夸张,但本(💏)身其实(🛏)存在一个特殊性——由于MiniCPM4.0 在处理更长(🍸)序列的数据时,可以更好地去处理Transformer架构带来的内存爆炸问题,避免了长序列数据处理(🗾)带来的内存占用倍增,而同尺寸的Qwen-3-8B、Llama-3-8B等模型并未就此进行优化,因此MiniCPM4.0有了突出的表现。
据悉,MiniCPM 4.0 模型采用的InfLLMv2稀疏注意力架构改变了传统 Transformer 模型的相关性计算方式,有效摆脱了逐字重复计算的低效,将稀疏度从行业普遍的40%-50%,降至极致的5%,注意力层仅需1/10的(🔛)计算量即可完成长(🆎)文本计算。且对算子底层重写,进一步加速提升,并使得对文本相关性精准性大大提(🈯)升。
事业顺景 值得一提的是,DeepSeek 使用的长文本处理架构NSA(Native Sparse Attention)也引用并采用了与InfLLM相同的分块注意力计算思路,但其对于短(🥤)文本的推(🍗)理较慢,InfLLMv2则很好地解决了NSA在短文本推理上的短板。
在缓存消耗上,MiniCPM 4.0-8B在 128K 长文本场景下相较于Qwen3-8B仅需 1/4 的缓存存储空间。在速度、性能飙升的(🌳)同时,又做到了模型极致压缩(⬛),让端侧算力不再有压力。
事业顺景 据悉,基于 8B 版本,面壁智能(🎈)已微调出两个特定能力模型,分别可以用作 MCP Client 和纯端侧性能比肩Deep Research的研究报告神器MiniCPM4-Surve。截至目前,面壁小钢炮 MiniCPM 系列全平台下载量累计破1000万。(文猛)
相关链接:
- “碰一下钱就没了”?多部门将重拳惩治造谣乱象
- 小米米家智能净烟机 S20 开售:支持 PM2.5 实时监测,国补价 2079.2 元起
- 推荐国台办正告民进党当局:数典忘祖的人从来没有好下场
- 毕井泉落马,今年已有5名正部级干部被查
- ES8 将成“次旗舰”,秦力洪宣布蔚来 ES9 旗舰 SUV 预计明年上半年亮相
- 海昌海洋公园即将易主?祥源集团拟斥资近23亿认购新股,拿下近四成股份
- 澎湃思想周报|美国《外国敌人法》的重启;博物馆新时代之思
- 雷柏 VT3S 系列鼠标上架:标准版原相 3398 / Max 版 3950 Ultimate,199 元起
- 中国乒协:理解尊重运动员本人意愿 支持樊振东加盟德甲
- 视力好就代表眼睛健康?专家揭示眼健康误区
相关新闻
- 事业顺景闯关港股IPO,频繁融资的亿纬锂能有多缺钱?详细阅读
炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 来源:尺度商业 2025年,港股新股市场非常火热,多家A股公司相...
2025-06-1561
- 事业顺景A股重大调整,明日生效详细阅读
A股系列指数调样,明日生效!根据此前消息,6月16日为A股系列指数定期例行调整的生效日。这次调样的指数包括上证50、上证180、上证380、科创50...
2025-06-1586
- 事业顺景印度客机坠毁机场暂停运营详细阅读
据印度媒体援引艾哈迈达巴德机场发言人消息,受坠机事件影响,艾哈迈达巴德机场目前暂停运营。所有航班暂停运行,直至另行通知。 总台记者获悉,一...
2025-06-15107
- 事业顺景武汉加快数据基础制度建设 促公共数据资源开发利用详细阅读
中新网武汉6月13日电 (卢琪 袁芳)武汉市近日印发《武汉市公共数据资源管理实施细则(试行)》(以下简称《实施细则》)、《武汉市公共数据授权运营实...
2025-06-15107
- 事业顺景以色列、沙特股市因中东冲突加剧下跌详细阅读
据报道,在以色列总理本雅明・内塔尼亚胡政府开始对伊朗发动空袭后,以色列股市在首个交易日下跌,而沙特阿拉伯的股票基准指数也因市场对该地区冲突可能扩大...
2025-06-15119
- 事业顺景华熙生物深夜发文回怼巨子生物:国货品牌的可信度基础,不能建立在学术名称与概念滥用之上详细阅读
6月14日,华熙生物今日晚间发文《关于透明质酸和重组胶原蛋白的传言与真相》,再度回应近期与巨子生物之间的风波。 有传言说华熙生物上述举措是基于...
2025-06-15145
- 事业顺景“哈中关系持续稳步发展”——访哈萨克斯坦文化与信息部副部长叶夫根尼·科切托夫详细阅读
“在两国元首的战略引领下,哈中关系持续稳步发展,不断迈上新台阶。”第二届中国—中亚峰会即将在哈萨克斯坦举行,哈萨克斯坦文化与信息部副部长叶夫根尼·...
2025-06-15155
- 事业顺景今年前5个月中国检方办理文物和文化遗产保护公益诉讼案2160件详细阅读
中新社北京6月14日电 (记者 张素)“今年1月至5月,全国检察机关共立案办理文物和文化遗产保护公益诉讼案件2160件,在公益诉讼办案总数中占比4...
2025-06-15158