返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

小米MiMo-V2-Flash开源:3090亿参数大模型能否改写AI行业规则!

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 17:13 |阅读模式 打印 上一主题 下一主题

2025年12月16日,小米突然向全球开发者推送了一枚"重磅炸弹"——开源旗舰大模型MiMo-V2-Flash。

这款总参数达3090亿、激活参数仅150亿的MoE架构模型,以73.4%的SWE-bench Verified得分刷新开源模型纪录,推理成本仅为Claude 4.5 Sonnet的2.5%,瞬间点燃了AI圈儿的热情。

技术突破:MoE架构怎么实现"大而不笨"?

在MiMo-V2-Flash的技术白皮书里,最震撼的不是3090亿这个天文数字,而是它独创的"按需激活"机制。

通过MoE(混合专家)架构,模型在推理时仅激活150亿参数,相当于309人的团队里只有15人同时工作。这种设计让它在保持代码能力超越所有开源模型的同时,把显存占用压缩至传统模型的1/6。

混合注意力机制是另一大杀手锏,小米采用5:1的激进比例融合滑动窗口注意力(SWA)与全局注意力(GA),128-token的窗口大小看似限制视野,实际上是通过"可学习的注意力汇入偏置"技术,在KV缓存减少近6倍的情况下,仍支持256k超长上下文。

多Token预测(MTP)技术,让推理速度飙升至150 tokens/秒。传统模型一次生成一个token的"打字机模式"也是被彻底颠覆,MiMo-V2-Flash通过3层MTP模块并行预测2.8-3.6个token,配合SGLang推理框架优化,实现2-2.6倍的端到端加速。这在实际编码任务中让运行速度提升达2.5倍,完美解决了小批量强化学习中的GPU空转问题。

开源生态:MIT协议能不能打破巨头垄断呢?

不同于某些厂商"开源轻量版、闭源旗舰版"的保守策略,MiMo-V2-Flash采用最宽松的MIT协议,允许商业修改与再分发,甚至将推理代码同步贡献给SGLang社区。

小米MiMo-V2-Flash logo

"我们要让每个开发者都能用上顶级大模型。"负责人罗福莉在发布会上展示的定价表真是让人咋舌:每百万输入token仅0.1美元,输出0.3美元,限时免费的API更是让中小企业激动。

这个价格仅为GPT-4的1/30,比同类开源模型低50%,简直就是直接把大模型服务拉入"白菜价"的时代。

生态布局上,小米已构建起"通用推理+语音+具身智能"的开源矩阵。此前发布的MiMo-Embodied模型打通自动驾驶与机器人控制,在29项基准测试中全面霸榜;

MiMo-Audio则实现语音生成质量与效率的双重突破。这种全栈开源策略,让我们开发人员能像搭积木一样组合能力,快速构建行业解决方案。

应用前景:从代码生成到智能体革命

在编程领域,MiMo-V2-Flash交出了73.4%的SWE-bench Verified得分,这个接近GPT-5-High(74.9%)的成绩,说明MiMo-V2-Flash已经能独立修复绝大多数真实软件bug。

多语言测试中71.7%的解决率,也证明MiMo-V2-Flash在Python、Java等主流语言间的无缝切换能力。甚至有开发人员实测发现,用它生成的电商网页代码可直接部署,连支付接口都能自动对接。

长文本处理也是同样惊艳,256k上下文窗口能轻松容纳整本书籍,LongBench V2测试60.6分的表现超越Kimi-K2。

罗福莉在演讲中描绘的一个未来期待:"下一代智能体不应只是语言模拟器,而要理解物理世界。"

后续MiMo-V2-Flash逐渐融入小米10.4亿AIoT设备,那我们或许很快能看到:扫地机器人根据污渍类型动态调整策略,汽车通过多模态感知预判危险,手机相册自动生成带叙事逻辑的视频回忆录。

#小米#MiMo-V2-Flash

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ