|
自 Kimi K2 发布以来，我们收到了大量关于模型 ToolCall（工具调用）可靠性的反馈。我们观察到，这些反馈背后的主要原因是，不同 API 服务商采用的 Kimi K2 推理方案在 ToolCall 性能上存在显著差异。
用户在选择 API 服务商时，往往优先考虑延迟更低、成本更低，却可能无意中忽略了更微妙却关键的模型精度差异。
因此，我们推出K2 Vendor Verifier 项目（https://github.com/MoonshotAI/K2-Vendor-Verifier），一方面为用户挑选 API 服务商提供参考，另一方面希望帮助模型服务商打造更加一致且高性能的 API 体验。
鉴于 ToolCall 能力是模型 Agent 性能的重要指标，也是 Kimi K2 模型的关键优势，ToolCall 能力成为 K2 Vendor Verifier 项目的第一项基准测试。昨天，我们更新了 ToolCall 基准测试的最新一期评测结果，一共有 12 家第三方 API 服务商参与其中。评估结果如下：
表中每项指标的定义如下：
我们的测试集有 4000 条数据，通过收集每个供应商的响应并与 Kimi K2 官方 API 进行对比得出上述评估结果。你可以在 Github 项目页的 samples.jsonl 文件中找到示例数据，我们已经将 50% 的测试数据开源，方便 API 服务商自行测试和复现。 | 
