9.1K Star！一个用于构建具有长期记忆和自定义工具的大型语言模型（LLM）代理的开源项目

https://github.com/cpacker/MemGPT

Github项目详情见【阅读原文】

项目简介

MemGPT 是一个开源项目，它允许用户构建具有长期记忆和自定义工具的大型语言模型（LLM）代理。

项目提供了一种方式，使得LLM代理能够管理长期记忆/状态，连接到外部数据源（例如PDF文件），并定义及调用自定义工具，如进行谷歌搜索。

使用场景

1. 对话代理：构建可以进行复杂对话的聊天机器人。

2. 信息检索：通过连接外部数据源，代理可以检索和引用特定信息。

3. 自定义功能：用户可以为代理定义特定的功能，如搜索、数据分析等。

4. 研究与开发：开发者可以使用MemGPT进行LLM相关的研究和开发工作。

使用方法

安装与设置

首先，需要安装MemGPT。可以通过Python的包管理器pip来安装：

pip install pymemgpt

如果使用OpenAI的服务，需要设置环境变量OPENAI_API_KEY为OpenAI密钥，然后可以快速开始：

memgpt quickstart --backend openai

对于想要使用MemGPT免费托管端点的用户，可以这样做：

memgpt quickstart --backend memgpt

对于更高级的配置选项，或者使用不同的LLM后端或本地LLMs，可以运行memgpt configure。

快速开始（命令行界面CLI）

用户可以通过在命令行界面（CLI）中运行memgpt run来创建和与MemGPT代理进行对话。run命令支持以下可选标志（更多标志详见CLI文档：https://memgpt.readme.io/docs/quickstart）：

• --agent: 要创建或继续对话的代理名称。
• --first: 用户发送第一条消息。
• --debug: 显示调试日志。
• --no-verify: 绕过消息验证。
• --yes/-y: 跳过确认提示并使用默认值。

快速开始（服务器）

用户可以使用MemGPT将代理作为服务部署。服务需要使用MemGPT管理员密码进行身份验证，该密码可以通过运行以下命令设置：

export MEMGPT_SERVER_PASS=password

启动MemGPT服务有两种方式：

选项1（推荐）：使用docker compose运行

1. 在系统上安装docker。
2. 克隆仓库：git clone git@github.com:cpacker/MemGPT.git。
3. 运行docker compose up。
4. 在浏览器中访问memgpt.localhost以查看开发者门户。

选项2：使用CLI运行

1. 运行memgpt server。
2. 在浏览器中访问localhost:8283以查看开发者门户。

一旦服务器运行，用户可以使用Python客户端或REST API连接到memgpt.localhost（如果使用docker compose运行）或localhost:8283（如果使用CLI运行）来创建用户、代理等。

完整的文档可以参见：https://memgpt.readme.io。

---

注：本文内容仅供参考，具体项目特性请参照官方 GitHub 页面的最新说明。

欢迎关注&点赞&在看，感谢阅读~