使用Ollama提供的Qwen2 7B搭建自己的中文版斯坦福多智能体AI小镇

显示全部楼层

以下第1、2部分内容可以不执行，只是介绍中文化所做的具体修改是什么

1 对角色身份、目标、Prompt中文化

1.1 人物身份、目标中文化

修改data/characters.ts将角色的identity和plan翻译成中文

1.2 回话、记忆引导Prompt中文化

对convex/agent/memory.ts、convex/agent/conversation.ts中相关的Prompt翻译为中文

2 修改llm.ts

修改convex/util/llm.ts，将LLM和Embedding模型修改为对中文支持较好的模型

3 运行

更详细的步骤，请参考使用Ollama提供的Llama3 8B搭建自己的斯坦福多智能体AI小镇

3.1 准备ollama模型

ollamapullqwen2:7b
ollamapullznbang/bge:large-zh-v1.5-q8_0

3.2下载代码并安装npm包

gitclonegit@github.com:Steven-Luo/ai-town-cn.git
cdai-town-cn
npminstall

3.3启动convex后端

3.3.1Linux系统

后续可能会使用just命令，可以在https://github.com/casey/just寻找对应Linux发行版的安装方法，以Ubuntu 24.04为例，安装命令为：

sudoaptinstalljust

安装context，对于Linux系统，直接下载预编译版本，解压缩即可，下载地址在https://github.com/get-convex/convex-backend/releases。解压缩后，执行如下命令：

unzip/Users/luogang/Downloads/convex-local-backend-x86_64-unknown-linux-gnu.zip

chmod+xconvex-local-backend

./convex-local-backend

3.3.2 macOS系统

以下代码为macOS平台

curl-L-Ohttps://github.com/get-convex/convex-backend/releases/latest/download/convex-local-backend-aarch64-apple-darwin.zip
unzipconvex-local-backend-aarch64-apple-darwin.zip

brewinstalljust


./convex-local-backend

注意，执行后续命令时，需要确保convex-local-backend处于运行状态

3.4清理之前的数据

如果是第一次运行，则不需要执行3.4这一步

justconvexruntesting:wipeAllTables

创建一个全新的世界

justconvexruninit

3.5启动服务

设置背景音乐，创建一个Replicate (https://replicate.com/)账户，并在API Token页面创建一个token，下面这条命令可选

justconvexenvREPLICATE_API_TOKEN<替换为自己的token>

启动前后端

npmrundev

如果需要监听所有网络，修改package.json文件，将dev:frontend的值，由vite修改为vite --host，如下图所示

4 效果

4.1 Alex

Alex的人设和目标如下所示

{




}

从他与其他角色的对话可以发现，提到了《星际之门》，这是非常有名的一部科幻小说

4.2 Stella

Stella的人设如下

{




}

从下方的聊天记录可以看出，已经有了一点PUA的味道

4.3 Alice和Kurt

Alice的人设和计划如下：

{




}

Kurt的人设和计划如下：

{




}

从二人的对话如下：

从对话可以看出，AI、量子物理这些也的确是这两个角色的人设该聊的内容