返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

everything-ai:全能AI助手!

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 10:08 |阅读模式 打印 上一主题 下一主题

项目简介


您完全熟练的、人工智能驱动的本地聊天机器人助手

everything-ai:全能AI助手,支持多种AI功能,包括文本生成、图像生成、视频生成等,适用于多语言环境,可本地部署


快速开始

1.克隆这个存储库

gitclonehttps://github.com/AstraBert/everything-ai.gitcdeverything-ai


2. 设置您的.env文件

调整:

  • .env 文件中的 VOLUME 变量,以便您可以将本地文件系统挂载到 Docker 容器中。

  • .env 文件中的 MODELS_PATH 变量,以便您可以告诉 llama.cpp 您下载的 GGUF 模型的存储位置。

  • .env 文件中的 MODEL 变量,以便您可以告诉 llama.cpp 使用什么模型(使用 gguf 文件的实际名称,并且不要忘记 .gguf 扩展名!)

  • .env 文件中的 MAX_TOKENS 变量,以便您可以告诉 llama.cpp 它可以生成多少个新令牌作为输出。


.env 文件的示例如下:

VOLUME="c:/Users/User/:/User/"MODELS_PATH="c:/Users/User/.cache/llama.cpp/"MODEL="stories260K.gguf"MAX_TOKENS="512"

这意味着现在本地计算机上“c:/Users/User/”下的所有内容都位于 Docker 容器中的“/User/”下,llama.cpp 知道在哪里查找模型以及要查找什么模型,及其输出的最大新令牌。

3. 拉取必要的镜像

dockerpullastrabert/everything-ai:latestdockerpullqdrant/qdrant:latestdockerpullghcr.io/ggerganov/llama.cpp:server

5. 前往localhost:8670并选择您的助手

你会看到这样的东西:


从以下选项中选择任务:

  • 检索文本生成:使用 qdrant 后端构建检索友好的知识库,您可以在该知识库上查询和调整模型的响应。您必须传递一个 pdf/一堆指定为逗号分隔路径的 pdf,或者传递一个存储所有感兴趣的 pdf 的目录(不要同时提供两者);您还可以使用 ISO 命名法指定 PDF 的编写语言 - 多语言

  • 不可知文本生成:类似 ChatGPT 的文本生成(无检索架构),但支持 HF Hub 上的每个文本生成模型(只要您的硬件支持!) - 多语言

  • 文本摘要:总结文本和 pdf,支持 HF Hub 上的每个文本摘要模型 - 仅限英语

  • 图像生成:稳定扩散,支持 HF Hub 上的每个文本到图像模型 - 多语言

  • image- Generation-polnations:稳定扩散,使用 Pollinations AI API;如果您选择“图像生成授粉”,则除了任务之外无需指定任何其他内容 - 多语言

  • 图像分类:对图像进行分类,支持 HF Hub 上的每个图像分类模型 - 仅英文

  • 图像到文本:描述图像,支持 HF Hub 上的每个图像到文本模型 - 仅英文

  • 音频分类:对音频文件或麦克风录音进行分类,支持 HF hub 上的音频分类模型

  • 语音识别:转录音频文件或麦克风录音,支持 HF 集线器上的自动语音识别模型。

  • 视频生成:根据文本提示生成视频,支持 HF hub 上的文本到视频模型 - 仅限英语

  • 蛋白质折叠:使用 ESM-2 主干模型从蛋白质的氨基酸序列中获取蛋白质的 3D 结构 - 仅适用于 GPU

  • autotrain:使用 autotrain-advanced 对特定下游任务的模型进行微调,只需指定 HF 用户名、HF 写入令牌以及用于训练的 yaml 配置文件的路径

  • space-api-supabase:将 HF Spaces API 与 Supabase PostgreSQL 数据库结合使用,以释放更强大的 LLMs 和更大的面向 RAG 的向量数据库 - 多语言

  • llama.cpp-and-qdrant:与检索文本生成相同,但使用 llama.cpp 作为推理引擎,因此您不得指定模型 - MULTILINGUAL

  • 图像检索搜索:搜索图像数据库,上传文件夹作为数据库输入。该文件夹应具有以下结构:

./├──test/|├──label1/|└──label2/└──train/├──label1/└──label2/


6. 转到localhost:7860并开始使用您的助手

一切准备就绪后,您可以前往 localhost:7860并开始使用您的助手:


项目链接

https://github.com/AstraBert/everything-ai



回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ