链载Ai

标题: 详解Palantir AIP的两个利器:LLM和Tool [打印本页]

作者: 链载Ai    时间: 昨天 22:42
标题: 详解Palantir AIP的两个利器:LLM和Tool

在Palantir AIP的Logic模块中,UseLLM节点是核心逻辑块,而Tool则是让LLM具备行动能力的关键。LLM通过工具Tool跟客户业务进行深度交互。所谓从决策到行动,主要靠的是LLM和Tool这两个利器。

最重要的两个工具是调用函数(executefunciton)和执行操作(applyaction)这两个。

一、调用函数(Callfunction)工具

给LLM配置Callfunction意味着允许LLM根据用户的指令,自主决定调用Foundry中预先定义好的TypeScript函数或由logic编排好的logic函数。

在AIPLogic中配置之前,必须在有一个已经发布好Function。函数定义时必须有明确的入参和返回值。文档注释是最关键的一点。LLM看不懂代码逻辑,它只能通过写的函数注释(/**...*/)来理解这个函数是做什么的、参数需要什么格式。

配置步骤详解

第一步:添加UseLLM节点

在AIPLogic的编辑器画布上,添加一个"UseLLM"块。

第二步:启用Tools(工具)

点击选中"UseLLM"节点。在右侧(或底部)的配置面板中,找到Tools部分。

点击Addtool(添加工具)。

在弹出的菜单中选择Callfunction。

第三步:选择目标函数

在出现的搜索框中,输入编写好的函数名称,并选中该函数。

第三步:配置参数映射

这是配置的核心。当选中函数后,你会看到该函数定义的所有输入参数。需要告诉AIPLogic如何处理这些参数。

通常有以下几种模式:

第四步:配置函数执行后的行为

当LLM决定调用函数后,AIPLogic会暂停LLM的生成,去后台执行这个函数,然后拿到返回值。需要决定拿到返回值后做什么:

  1. 默认行为。函数的返回值(例如查询到的库存数量、更新成功的消息)会被作为上下文再次喂给LLM。LLM会根据返回值生成最终的自然语言回复。例如:“库存查询成功,当前剩余50件。”






欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5