提升大模型 Function Calling 准确性

显示全部楼层

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 0px 8px 1em;letter-spacing: 0.1em;color: rgb(33, 37, 41);padding: 8px 12px;background: rgba(237, 242, 255, 0.8);border-radius: 8px;">无论是 LLM 还是 Agent 发挥胜寒里的核心点是「工具调用」或者说「函数调用」，但是目前来看说通用的模型，函数调用的性能还不能很好满足我们的需求。本文探讨如何提升函数调用准确性的一些方案。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1em 8px;letter-spacing: 0.1em;color: rgb(33, 37, 41);padding: 8px 12px;background: rgba(237, 242, 255, 0.8);border-radius: 8px;">这部分内容主要来自下面论文：《Robust Function-Calling for On-Device Language Models via Function Masking》：

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1em 8px;letter-spacing: 0.1em;color: rgb(33, 37, 41);padding: 8px 12px;background: rgba(237, 242, 255, 0.8);border-radius: 8px;">大家有兴趣可以在线阅读：

• https://arxiv.org/html/2410.04587v2^[1]

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 20px;font-weight: bold;display: table;margin: 2em auto 1.5em;padding: 6px 0px 6px 16.75px;background: linear-gradient(135deg, rgb(113, 23, 234), rgba(113, 23, 234, 0.667), rgba(234, 96, 96, 0.533), rgba(217, 57, 205, 0.267), rgba(217, 57, 205, 0));color: rgb(255, 255, 255);border-radius: 8px;width: 318.25px;">函数调用的过程

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;color: rgb(63, 63, 63);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;border-radius: 8px;display: block;margin: 0.1em auto 0.5em;border-width: 0px;border-style: solid;border-color: initial;border-image-width: initial;border-image-outset: initial;border-image-repeat: initial;border-image-source: linear-gradient(to right, rgb(143, 65, 233), rgb(108, 89, 245), rgb(164, 102, 255), rgb(232, 111, 255), rgb(255, 132, 213), rgb(234, 160, 147), rgb(255, 173, 51));border-image-slice: 1;height: auto !important;" title="null" src="https://api.ibos.cn/v4/weapparticle/accesswximg?aid=96921&url=aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9hZzdaM2RDcTdMbTA0RndrWTJscG82ZHo1b1BjNzluNENibWd6Ylc4enFKUGVhS095Uzlzb01FWVNoMXhUVXBldEVWWlNhTDl3c0tLYXRkcUJyUUNoUS82NDA/d3hfZm10PXBuZyZhbXA=;from=appmsg"/>

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1em 8px;letter-spacing: 0.1em;color: rgb(33, 37, 41);padding: 8px 12px;background: rgba(237, 242, 255, 0.8);border-radius: 8px;">我们先介绍一个典型的函数调用过程，如上图所示。在这个过程中，

• 每个候选函数都包含几个部分，包括函数名、参数名、默认值和描述。该
• 模型的目标是输出完整、准确的函数调用代码，以实现用户的意图，
• 或者输出一个空列表，表示给定的候选函数都不能满足用户的要求。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1em 8px;letter-spacing: 0.1em;color: rgb(33, 37, 41);padding: 8px 12px;background: rgba(237, 242, 255, 0.8);border-radius: 8px;">实现这一目标取决于模型能否准确地将用户的意图与候选函数的功能相匹配，即选择合适的函数，以及模型能否理解每个参数的用法，即用正确的参数填充函数。

发现的问题

在实践中观察到了一些反复出现的问题：

• 函数名称和参数名称的误导
• 过度关注命名的影响

函数名称和参数名称的误导

函数的定义通常包括函数名称、参数名称和描述。函数和参数名称的格式通常非常紧凑，例如 cal_sum 或 max_value，并且受设计者的个人风格和偏好的影响。当模型试图仅从函数名称推断函数的用途时，这种紧凑性可能会导致歧义，从而误导模型的选择，尤其是在存在复杂功能的情况下。

例如，名为parse_data的函数可能用于解析 JSON 数据，但同一名称可能指在不同上下文中解析 CSV 文件，从而导致潜在的误解。

同样，在根据参数名称推断参数用法时，模型可能会受到训练数据集中类似名称参数的历史用法的误导。更具体地说，这些误导场景可以分为几种情况。

函数名称误导。当用户意图与训练标签中存在的函数名称高度一致时，模型可能会在测试期间错误地将该函数从候选列表中优先考虑，即使其功能与预期操作有很大差异。

例如，如果训练对中包含一个名为fetch_data的函数用于从数据库检索用户数据，但在测试集中，同名函数从外部 API 检索数据，则模型可能会错误地仅根据名称选择它。

参数名称误导。在测试环境中，当参数的功能和描述发生变化时，模型经常会坚持其原始的参数使用模式，从而导致错误的函数调用。

例如，如果函数的参数超时在一个上下文中应为表示秒的整数，但在另一个上下文中，它被定义为“10s”格式的字符串，则模型对原始整数格式的依赖可能会导致错误调用。

命名偏好带来的困扰。当测试环境中函数或参数的命名约定与训练数据集中的命名约定不同时，模型的稳健性可能会降低。诸如CamelCase和snake_case之间的差异等变化可能会降低模型的置信度，因为设备上的轻量级模型可能难以在不同的命名风格中进行推广。

过度关注命名的影响

下面看看我们在测试集中屏蔽了函数和参数名称，即用随机字符串替换它们，并观察模型性能的变化。受测试模型的性能大幅下降。

Hammer 模型在相同设置下的性能，性能下降要小得多，证明了它在面对任意函数和参数命名模式时具有很强的适应性。

下面看如何实现。

方法

函数屏蔽

缓解上述问题的直接方法是尽量减少函数名称和参数名称的干扰，同时强制模型根据候选函数的描述理解其功能和用法。

描述的优点：

• 描述提供了更灵活的自然语言解释，通常封装了函数和参数名称想要传达的信息。
• 虽然描述在某种程度上也能反映设计者的个人风格，但它们往往更准确、更详细，从而降低了出现歧义或误导的可能性。

下图展示了函数屏蔽的过程：

论文结果肯定是好的，看下测试结果：

Hammer2.0

Hammer2.0^[2] 已经在 HuggingFace 上发布，最小的仅为 0.5B，最大的为 7B，大家可以在自己的环境或者 MaaS 平台部署测试。

注意

最后大家在注意一下，论文中的函数屏蔽方案可能大多数时候并不使用与我们自己的场景。

我接触的客户多是基于API调用，其函数数量也不会太多，所以性能而本身更依赖函数 Schema 的定义，以及基础模型本身和的性能。