返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

教程 |终于,我在本地跑起了开源的 AI 模型

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 09:58 |阅读模式 打印 上一主题 下一主题


01

就像西方不能没有耶路撒冷一样,我们也不能没有开源的 AI 模型。只要这个开源的小模型是免费的、够好用、够小,它就是个好模型。

没错,就是 Llama3,相信大家都很熟悉了,羊驼家族的明星。https://ollama.com/library/llama3

首先我们需要进入Llama3的官方网站,下载一个软件,可以简单理解为启动器,看见这个可爱的羊驼,点击右上角的下载即可:

下载好后直接双击安装即可。

安装完毕后,点击运行弹窗,来到当前这个界面:

如果不小心退出了,可以通过 Win + R,输入 cmd ,打开终端。

输入ollama -v即可查看版本

ollamaversionis0.1.39

没问题之后,可以先输入指令查看本地的模型(此时还没有安装,输出列表为空的),指令:ollama list

NAMEIDSIZEMODIFIED

02

ok,此时一切正常,接下来我们准备安装 Llama3 8B 版本了,现在非常的方便,也只需要输入一行指令,即可自动安装。

我们可以在官网查看指令,选中 8B,右边的内容复制一下,再回到刚刚的界面粘贴回车就可以了,当然,我们后续如果想安装 70B 的版本,也只需要左边选中 70B 即可。

ollamarunllama3:8b

好,接下来就是等待安装的过程。

另外,8B 和 70B,就是当初训练 AI 时候参数的不同,8B 是 80 亿参数,70B 是 700亿参数,顺带一提,chatGPT3.5 的参数是175B

简单来说,参数越多,模型就越复杂,能够处理的信息也就越多。

可以类比成大脑的神经元数量,参数越多,模型的“智能”就越高。

03

经过一段时间的等待,此时终于下载好了,可能我本地网速太慢,下载了足足半个小时。

接下来我们直接在终端输入问题,就可以进行问答了!

当然,目前 Llama3 8B,只是最基础的一个小模型,很多好用的功能都没有实现,比如联网搜索,比如调用计算器等等。

当然,没关系,此时此刻,万里长征已经走出了第一步,胜利就在前方。

至此,夜已深,更多评测只好等待明天了。

我心中还有一百套玩法等着测试呢。

04

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;text-wrap: wrap;background-color: rgb(255, 255, 255);">我是想象力AI,写过很多个有意思的自动化机器人,有小红书自动发图、抖音自动涨粉、和微信自动加好友拉群等等。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;text-wrap: wrap;background-color: rgb(255, 255, 255);text-align: center;">


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ