通过个人微信聊天记录对大语言模型（LLM）进行微调，打造专属的数字分身。它提供从聊天数据到模型微调、从文本生成到语音克隆、从训练到部署的全链路解决方案。让你的数字分身不仅“会说你的话”，还能“听起来像你本人”。 
主要功能聊天记录训练：用微信聊天记录微调大语言模型，模仿用户说话方式。 高质量语音克隆：用0.5B参数模型和5秒语音样本，生成相似度高达95%的声音。 微信机器人绑定：将数字分身接入微信，支持自动文字和语音回复。 数据预处理工具：提供脚本将聊天记录转为训练数据，默认过滤敏感信息。 模型个性化优化：支持LoRA微调技术，让模型更符合用户语言习惯。
安装和使用硬件要求目前项目默认使用chatglm3-6b模型，LoRA方法对sft阶段微调，大约需要16GB显存。也可以使用LLaMA Factory支持的其他模型和方法，占用显存更少，需要自行修改模板的systemprompt词等相关配置。 需要显存的估算值： | | | | | | x |
|---|
| | | | | | 18x | | | | | | | 8x | | 冻结/LoRA/GaLore/APOLLO/BAdam | | | | | | 2x | | | | | | | x | | | | | | | x/2 | | | | | | | x/4 |
环境搭建建议使用uv，这是一个非常快速的 Python 环境管理器。安装uv后，您可以使用以下命令创建一个新的Python环境并安装依赖项，注意这不包含xcodec（音频克隆）功能的依赖： git clone https://github.com/xming521/WeClone.git
cd WeClone
uv venv .venv --python=3.9
source .venv/bin/activate
uv pip install --group main -e .
注意 训练以及推理相关配置统一在文件settings.json 数据准备请使用PyWxDump提取微信聊天记录。下载软件并解密数据库后，点击聊天备份，导出类型为CSV，可以导出多个联系人或群聊，然后将导出的位于 的 文件夹放在目录即可，也就是不同人聊天记录的文件夹一起放在 。示例数据位于 data/example_chat.csv。wxdump_tmp/exportcsv./data./data/csv 数据预处理项目默认去除了数据中的手机号、身份证号、邮箱、网址。还提供了一个禁用词词库blocked_words，可以自行添加需要过滤的词句（会默认去掉包括禁用词的整句）。 执行 脚本对数据进行处理。./make_dataset/csv_to_json.py 在同一人连续回答多句的情况下，有三种处理方式： 模型下载首选在Hugging Face下载ChatGLM3 模型。如果您在 Hugging Face 模型的下载中遇到了问题，可以通过下述方法使用魔搭社区，后续训练推理都需要先执行来使用魔搭社区的模型。 由于模型较大，下载过程比较漫长请耐心等待。export USE_MODELSCOPE_HUB=1 export USE_MODELSCOPE_HUB=1 # Windows 使用 `set USE_MODELSCOPE_HUB=1`
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
魔搭社区的文件需要更换为 Hugging Face 的modeling_chatglm.py 配置参数并微调模型（可选）修改settings.json选择本地下载好的其他模型。 修改以及来调整显存占用。per_device_train_batch_sizegradient_accumulation_steps 可以根据自己数据集的数量和质量修改、、等参数。num_train_epochslora_ranklora_dropout
单卡训练运行 进行sft阶段微调，本人loss只降到了3.5左右，降低过多可能会过拟合，我使用了大概2万条整合后的有效数据。src/train_sft.py python src/train_sft.py
多卡训练uv pip install deepspeed
deepspeed --num_gpus=使用显卡数量 src/train_sft.py
实战演习场景1：使用浏览器demo简单推理python ./src/web_demo.py
场景2：使用接口进行推理python ./src/api_service.py
场景3：使用常见聊天问题测试python ./src/api_service.py
python ./src/test_model.py
场景4：部署到聊天机器人AstrBot方案AstrBot是易上手的多平台 LLM 聊天机器人及开发框架 ✨ 平台支持 QQ、QQ频道、Telegram、微信、企微、飞书。 使用步骤： 部署 AstrBot 在 AstrBot 中部署消息平台 执行 启动api服务python ./src/api_service.py 在 AstrBot 中新增服务提供商，类型选择OpenAI，API Base URL根据AstrBot部署方式填写（例如docker部署可能为http://172.17.0.1:8005/v1），模型填写gpt-3.5-turbo 微调后不支持工具调用，请先关掉默认的工具，消息平台发送指令： ，否则会没有微调后的效果。/tool off reminder 根据微调时使用的default_system，在 AstrBot 中设置系统提示词。
| 
