|
ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">就在刚刚，阿里ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">Qwen 团队正式发布了他们最新的研究成果 ——ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">QwQ-32B大语言模型！ 这款模型不仅名字萌萌哒 (QwQ)，实力更是不容小觑！?ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">相信关注大模型领域的朋友们都知道，模型参数量的大小往往与性能成正比。但这次，Qwen 团队却用ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">320亿参数的 QwQ-32B，硬刚拥有ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">6710亿参数的 DeepSeek-R1，并且在多项评测中取得了媲美甚至超越后者的惊人成绩！背后究竟是什么黑科技？ 答案就是 ——ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">强化学习 (Reinforcement Learning, RL)！ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(183, 110, 121);">划重点：强化学习，大模型的新引擎！?ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">Qwen 团队在博文中提到，他们深入探索了强化学习 (RL)在提升大语言模型智能方面的巨大潜力。QwQ-32B 的成功发布，有力地证明了RL 是提升模型性能的强大引擎！多项基准评测硬刚 DeepSeek-R1 QwQ-32B 的实力究竟有多强？ 官方给出基准评测结果，涵盖了数学推理、代码能力和通用问题解决等多个方面 从数据中我们可以清晰地看到，在AIME24和IFEval等关键基准测试中，QwQ-32B 的表现甚至略微超过了参数量巨大的 DeepSeek-R1！ 而在其他基准测试中，也基本与 DeepSeek-R1 持平，远超其他对比模型。 这意味着 QwQ-32B 在仅有 DeepSeek-R1 约 1/20 参数量的情况下， 用强化学习，实现了性能上的惊人跨越！ 技术揭秘：冷启动 + 结果导向的强化学习策略Qwen 团队在博文中也简单介绍了 QwQ-32B 背后的强化学习方法。他们采用了冷启动 (cold-start checkpoint)的方式，并实施了结果导向 (outcome-based rewards)的强化学习策略。 - •结果导向： 在初始阶段，主要针对数学和代码任务进行 RL 训练。
- •数学问题： 使用准确率验证器 (accuracy verifier)来确保答案的正确性。
- •代码生成： 使用代码执行服务器 (code execution server)来评估生成的代码是否能够成功运行。
- •通用奖励模型和规则验证器： 后续阶段，会逐步引入更通用的奖励模型和规则验证器，提升模型在其他通用能力方面的表现。
这种策略的核心在于不依赖传统的奖励模型，而是直接根据任务结果（答案是否正确，代码是否运行成功）来指导模型的学习，更加高效和直接。 开源开放QwQ-32B 模型是开源开放 (open-weight)的！ 你可以在Hugging Face和ModelScope上找到它，并基于Apache 2.0 协议自由使用和研究！ 同时，你也可以通过Qwen Chat平台直接体验 QwQ-32B 的对话能力 |
