返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

DeepSeek-V3最新开源,第一手评测解读速递

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 12:04 |阅读模式 打印 上一主题 下一主题

最近一年,大模型开源领域更加蓬勃发展,无论是模型参数规模的飞跃,还是在代码生成、数学推理、语言理解等多方面的能力提升,大模型已经成为推动 AI 应用和研究的重要基石。从 Transformer 的提出到 MoE(Mixture of Experts)技术的广泛应用,这些创新不断刷新人类对 AI 潜力的认知。


12月26日,DeepSeek 上线并开源了全新系列模型 DeepSeek-V3 的首个版本。DeepSeek-V3 为 DeepSeek 自研 MoE 模型,采用 FP8 训练 (原生 FP8 权重也已同步开源),671B 参数,激活 37B,在 14.8T token 上进行了预训练。DeepSeek-V3 训练消耗的算力仅为 Llama 3 4050B 的 1/11,但在性能上的表现却领先众多国内外优秀的大模型,其高效和对算力资源依赖之小令人惊艳。根据官方技术报告,DeepSeek-V3 针对分布式推理做了创新的优化,进而显著提升了分布式 MoE 模型的负载分配效率,从整个系统上为未来更大规模的模型提供了新的可扩展性框架的可能。通过算法和工程上的创新,相比前代 V2.5,DeepSeek-V3 的生成吐字速度提升了 3 倍。


司南 OpenCompass 第一时间对 DeepSeek-V3 进行了评测,评测结果已更新至司南大语言模型公开学术榜单。




评测解读




司南OpenCompas大语言模型公开学术榜单-实时榜 排名前 10 模型得分


  • DeepSeek-V3 以 71.9 分的平均成绩超越了包括最新的 Gemini-2.0-Flash-Exp、Claude-3.5-Sonnet-20241022 在内的一系列国外模型,荣登 OpenCompass 开源学术榜单首位,标志着开源模型达到了比肩商业模型的能力水平。

  • DeepSeek-V3 在复杂推理场景上展现了卓越的能力,尤其在代码、数学、综合知识推理上均取得优异性能。


此外,上海人工智能实验室开源的大模型推理部署框架 LMDeploy 现已支持 DeepSeek-V3 的原生 FP8 高效推理,LMDeploy 开源链接:https://github.com/InternLM/lmdeploy




了解更多




司南 OpenCompass 大语言模型公开学术榜单链接如下:


  • https://rank.opencompass.org.cn/leaderboard-llm-academic/

  • https://huggingface.co/spaces/opencompass/Compass_Academic_Leaderboard


司南 OpenCompass 开源评测工具链:


  • https://github.com/open-compass/OpenCompass/


司南 OpenCompass 将持续关注国内外最新发布的开源及闭源大模型,并进行全面、客观、中立的性能评测,输出评测结果以及专业分析,为业界提供可信赖的大模型评估参考,推动大模型评测的公正性和客观性,促进大语言模型评测技术的健康发展和持续创新。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ