链载Ai

标题: 重磅!阿里深夜推出全新推理模型,仅1/20参数媲美DeepSeek R1 [打印本页]

作者: 链载Ai    时间: 7 小时前
标题: 重磅!阿里深夜推出全新推理模型,仅1/20参数媲美DeepSeek R1



ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">就在刚刚,阿里ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">Qwen 团队正式发布了他们最新的研究成果 ——ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">QwQ-32B大语言模型! 这款模型不仅名字萌萌哒 (QwQ),实力更是不容小觑!?

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">相信关注大模型领域的朋友们都知道,模型参数量的大小往往与性能成正比。但这次,Qwen 团队却用ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">320亿参数的 QwQ-32B,硬刚拥有ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">6710亿参数的 DeepSeek-R1,并且在多项评测中取得了媲美甚至超越后者的惊人成绩!背后究竟是什么黑科技? 答案就是 ——ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">强化学习 (Reinforcement Learning, RL)

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">划重点:强化学习,大模型的新引擎!?

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">Qwen 团队在博文中提到,他们深入探索了强化学习 (RL)在提升大语言模型智能方面的巨大潜力。QwQ-32B 的成功发布,有力地证明了RL 是提升模型性能的强大引擎

多项基准评测硬刚 DeepSeek-R1

QwQ-32B 的实力究竟有多强? 官方给出基准评测结果,涵盖了数学推理、代码能力和通用问题解决等多个方面

从数据中我们可以清晰地看到,在AIME24IFEval等关键基准测试中,QwQ-32B 的表现甚至略微超过了参数量巨大的 DeepSeek-R1! 而在其他基准测试中,也基本与 DeepSeek-R1 持平,远超其他对比模型。

这意味着 QwQ-32B 在仅有 DeepSeek-R1 约 1/20 参数量的情况下, 用强化学习,实现了性能上的惊人跨越!

技术揭秘:冷启动 + 结果导向的强化学习策略

Qwen 团队在博文中也简单介绍了 QwQ-32B 背后的强化学习方法。他们采用了冷启动 (cold-start checkpoint)的方式,并实施了结果导向 (outcome-based rewards)的强化学习策略。

这种策略的核心在于不依赖传统的奖励模型,而是直接根据任务结果(答案是否正确,代码是否运行成功)来指导模型的学习,更加高效和直接。

开源开放

QwQ-32B 模型是开源开放 (open-weight)的! 你可以在Hugging FaceModelScope上找到它,并基于Apache 2.0 协议自由使用和研究! 同时,你也可以通过Qwen Chat平台直接体验 QwQ-32B 的对话能力






欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5