返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

零代码本地部署一个大模型——增加WebUI

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 09:32 |阅读模式 打印 上一主题 下一主题

大家有看到最强开源模型llama3出来了吗,我拿着8G内存的mac在本地部署了一个llama3:8b,竟然也run起来了(但电脑主机感觉要烧了),大家想尝试下一个,可以回看这里《零代码本地部署一个大模型》

今天接着分享,不用写代码怎么拥有一个和本地大模型交互的web页面

下载docker

先下载一个docker客户端(开源的应用引擎),稍后用来帮我们一键安装和运行web页面

进入docker首页,根据系统选择对应安装包进行docker客户端安装


地址:https://www.docker.com/products/docker-desktop/

下载完成后记得运行docker

下载webUI项目

完成docker下载后,我们去ollama的github中选一个开源的webUI项目,我这里以Open WebUI为例

地址:https://github.com/ollama/ollama?tab=readme-ov-file

点击Open WebUI链接,进入它的说明网站,获取用docker下载该项目的命令

地址:https://docs.openwebui.com/

或者直接复制下面这个命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

打开电脑的命令行终端,将这段代码复制并运行,能看到docker开始下载webUI项目了

运行webUI项目

下载好后,打开docker客户端,能看到Open WebUI项目,点击Port下的端口号

进入WebUI界面,简单注册下

当~一个长得像ChatGPT的web版聊天机器人就有了。大家按需在ollama里面下载各种开源模型,就可以在这个界面里面自由切换模型进行使用啦~

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ