前两天,通义千问推出的 Qwen3-Embedding 系列模型(包括8B、4B和0.6B三个版本)在权威评测中表现惊艳,尤其在多语言任务和长上下文处理能力上全面超越主流竞品,成为开源嵌入模型的新王者。
Qwen3-8B以70.58总分登顶榜单(超越Gemini-001的68.37),在16项评测中12项第一,尤其在检索精度(MSMARCO 57.65)、问答能力(NQ 10.06) 等关键任务上表现惊艳。
即使最小尺寸的Qwen3-0.6B(仅595M参数),总分64.34仍显著超越7B级竞品(如SFR-Mistral 60.9),小模型也有大能量!
| 指标 | Qwen3-8B | BGE-M3 | 优势幅度 |
|---|---|---|---|
| 综合得分 | 70.58 | 59.56 | ↑11.02 |
| 上下文长度 | 32K | 8K | ↑ 4倍 |
| 检索任务(MSMARCO) | 57.65 | 40.88 | ↑41% |
| 开放问答(NQ) | 10.06 | -3.11 | 实现负分逆转 |
| 多语言理解 | 28.66 | 20.10 | ↑42% |
Qwen3在保持99%榜单合规性的同时,以更高维度参数(8B vs 568M)和4倍上下文支持,彻底改写Embedding模型性能边界!
同为7B级别:Qwen3-8B对比Linq-Embed-Mistral(61.47)、SFR-Mistral(60.9),性能领先超15%。
轻量级战场:Qwen3-0.6B(64.34)大幅领先同类小模型如multilingual-e5-large(63.22)、BGE-M3(59.56),证明通义千问架构的高效性。
根据官方文档自行部署GPUStack,官方提供了Docker镜像,可快速部署。
在GPUStack的 模型 界面,点击 部署模型 -> ModelScope,搜索qwen3-embedding。平台会自动检测你的硬件性能,推荐可以安装的量化模型版本。
我们选择了 qwen3-embedding-8b的Q8_0量化版本,等待模型下载,提示 running,表示模型已经部署完成。
现在Dify的插件市场中找到GPUStack,点击安装插件。等插件安装完成后,进行模型配置。
创建知识库,在Embedding模型中,选择我们自己部署的模型。
把公众号的历史文章,放入知识库进行测试。
选择Dify的父子分段策略。由于是markdown格式,希望每一个大段为一个父块,分段符选择 “#”.
测试一下召回情况
| 欢迎光临 链载Ai (https://www.lianzai.com/) | Powered by Discuz! X3.5 |