技术分享 | DeepChat与大模型重塑智能网页应用新体验

随着科技迅猛发展，智能网页应用越来越普遍，通过结合大模型技术，从传统静态网站变成智能互动平台，大大提升用户体验和操作便利性。

但即便技术快速发展，很多网页应用在没有全面集成大模型的情况下仍然存在以下问题：

1. 用户体验割裂

用户需频繁在主业务界面和AI界面之间切换，导致操作中断，容易出错，降低整体用户体验。

2. 数据提取困难

图表数据常以图形形式展示，用户很难直接提取和使用这些数据，而传统方法又效率低且易出错，影响业务决策的及时性。

3. 自动化任务难以实现

自动填表和智能提示等任务通常依赖固定规则，缺乏智能性和灵活性，影响用户效率和体验。

那么，如何解决这些问题呢

为解决这些问题，越来越多开发者将大模型直接集成到网页前端，它主要有以下显著优势：

无缝用户体验

在前端直接调用大模型，用户可在同一界面内完成问答、数据分析和操作，无需切换界面，增强操作的连续性和流畅性。

快速数据提取

大模型可直接从网页内容中提取和处理数据，替代手动操作，节省时间和精力。

智能自动化

通过前端集成大模型，实现自动填表和智能提示等任务，提高网页应用的灵活性和智能化水平。

为了实现以上的良好效果，我们可以借助DeepChat与大模型函数调用结合！

DeepChat简介

DeepChat 是一个可以在任何网页应用中整合AI服务的聊天组件，旨在简化与远程服务交互。

它支持多种API连接，实现智能对话，并允许开发者创建高度定制化的用户体验，同时为其提供极大的灵活性。

01

核心功能与特点

● 多API连接：RESTful接口和WebSocket服务均能有效兼容。

● 实时对话：确保消息即时传递和反馈。

● 多线程交互：支持并行处理多个对话。

● 高度定制化：可全面调整功能和视觉样式，契合品牌形象和用户需求。

● 跨框架兼容：适用于React、Vue、Angular等前端框架。

● 社区驱动：开源项目，接受社区贡献，持续优化和创新。

02

应用场景

● 客户支持：提供7x24小时AI客服服务，提高客户满意度。

● 用户引导：通过对话指导用户使用产品，加快上手速度。

● 数据查询：用户可通过对话框快速查询业务数据。

● 自动填表：智能解析用户输入，减少手动操作。

● 智能推荐：推荐相关内容或商品，提高转化率。

● 实时分析：分析用户输入，提供针对性建议和反馈。

大模型函数调用简介

FunctionCall 是目前大模型中常见的一项功能，让聊天模型像人那样智能地决定何时调用外部 API，比如发邮件、查天气或处理结构化数据。它能让开发者更灵活地使用大语言模型，实现更智能的应用。

01

主要特点

●智能选择函数：模型能根据用户输入自动决定是否需要调用某个函数。

●生成 JSON：模型会生成包含函数参数的 JSON。开发者只需用这个 JSON 去实际调用相关函数。

●可靠的数据返回：通过函数调用，能更准确地返回结构化数据。

●并行调用：支持多个函数同时调用，大大提高了效率。

02

使用过程

1. 定义函数：先在 API 请求中定义有哪些可用的函数，包括它们的名称和参数。

2. 调用模型：把用户的查询和定义好的函数传给模型。

3. 生成 JSON：模型决定是否需要调用函数，并生成相关的 JSON 数据。

4. 实际调用：把生成的 JSON 数据解析，真正去调用那个函数。

5. 处理结果：函数返回结果后，把它作为新消息传回给模型，生成用户能读懂的结果。

03

常见用例

●API 请求：如查询天气、发邮件等。

●自然语言转 API 调用：比如用户问“谁是我最好的客户？”，模型可以把这个问句转换成调用如 `get_customers` 这样的内部 API。

●抽取结构化数据：从普通文本中提取像名字、生日等具体信息。

下面，我们以订餐表单收集为例制作一个简单的Demo。

1、创建HTML表单

2、集成 DeepChat

3、工具定义

4、工具实现

5、效果示例

初始界面，顶部是表单：

自动填表效果：

大模型函数调用调优技巧

●函数选取

由于模型能力的限制，函数选取经常会出错。例如，在需要调用“填写表单”功能时，模型可能会选择“获取表单状态”。

为了提高模型选择函数的成功率，可以主动筛选传递给模型的可用函数。可以考虑使用 [semantic-router](https://github.com/aurelio-labs/semantic-router) 实现这一目标。

●调用成功率

函数调用成功率需要优化，尤其是在使用某些支持函数调用的开源模型时，如 MiniMax、ChatGLM3-6B、llama3 等。这些模型可能在应该调用函数时却没有调用，此时需要通过提示词优化来提升调用成功率。

参考以下统计表格[composio.dev]

(https://composio.dev/blog/gpt-4-function-calling-example/），可以看到不同手段的优化效果。

在数智云产品中的应用

通过引入 DeepChat+大模型，现在数果智能研发的AI智慧助手可以帮大家更方便地查询指标、保存单图和做简单的归因分析。

这些功能让我们的产品变得更智能、更好用。未来，我们还计划添加更多实用的功能，让大家使用起来更加顺手，更符合日常工作需求。

总结

在这个数字时代，DeepChat与大模型的结合，不仅仅是技术的革新，更是对用户体验的深刻理解。

我们将在数智云产品中，不断利用先进的大模型技术，为我们的用户打造更为极致的产品体验！