首先这不是什么教程,只是一个自己的一个简单笔记,截图比较多,有的地方可能漏掉了细节,后面可以提问留言,关于模型下载,我准备了几个我下载好的模型,如果你网络有问题,连接不上,可以下载这个用于演示。希望以下文字能帮助到你,记得关注,点赞,转发,点在看。
1.安装OLLama
到ollama的主页 https://ollama.com 点击 『Download』到下载页面,
点击『**Download for Windows(Preview)**』进行下载,大约170M左右。
下载好,直接下一步安装完成。安装好后,大概是:
安装完成后,ollama在后台运行,右下角有一个图标,没有其他东西,也没有安装任何模型,只有安装了某一个模型可以使用,常见的模型有ollama,ollama2,谷歌的gemma,通义千问qwen。默认情况下,ollama已加入系统路径,在命令行就可以调用ollama,可以在命令行运行服务,下载模型,查看版本,查看模型等。
ollama--version#查看ollama版本
ollamaserver#开启服务
ollamalist#列出当前的模型
ollamarungemma:7b#运行gemma7b模型,如果没有本地模型,直接拉模型到本地
模型支持情况:

2.安装gemma模型
Gemma 是一组轻量级生成式人工智能 (AI) 开放模型。Gemma 模型可以在应用以及硬件、移动设备或托管服务上运行。您还可以使用调优技术自定义这些模型,使其善于执行您和您用户的重要任务。Gemma 模型基于 Gemini 模型,旨在供 AI 开发社区进行扩展和改进。您可以使用 Gemma 模型生成文本。您还可以对它们调优,以提高其在特定任务中的性能。经过调优的 Gemma 模型可帮助您提高生成式 AI 解决方案的针对性和效率。
在ollama官网,点右侧的『Models』
选择『gemma』
选择『Tags』
这里是OLLama支持gemma的模型,选择7b ,复制旁边的ollama run gemma:7b。
到OLLama的安装目录。运行上面复制代码,进行模型的下载的安装,这个模型大概5g多,看自己的网速。命令行输入ollama run gemma:7b。
这就完成了OLLama的gemma模型7b的安装。
3.gemma模型测试
跑个测试看一下效果,在这个界面提一个问题,看看他生成的结果。
ollamarungemma:7b
如何学习好英语,看电影美剧有帮助吗?
学习英语,看电影美剧可以帮助提高英语水平,但不是唯一方法。以下方法可以帮助你学习英语:
1. 听英语广播和 podcast:
- 听英语广播和 podcast可以帮助你提高听说能力,并帮助你学习新的词汇和语法。
2. 看英语电影和电视节目:
- 看英语电影和电视节目可以帮助你提高你的词汇和语法能力,以及你的听力和语速能力。
- 在看电影和电视节目时,可以先看字幕,然后慢慢去掉字幕。
3. 阅读英语书籍和文章:
- 阅读英语书籍和文章可以帮助你提高你的词汇和语法能力,以及你的阅读速度和理解能力。
4. 和英语母语人交谈:
- 和英语母语人交谈可以帮助你提高你的口语能力,以及你的语法和词汇能力。
其他方法:
- 在你的日常活动中使用英语,例如与朋友交谈、阅读新闻和博客、在网上购物等
看电影美剧是否有效?
看电影美剧可以帮助提高英语水平,但不是唯一方法。电影中使用的语言可能与实际生活中的语言略有不同,但可以帮助你学习新的词汇和
语法,以及提高你的听力和语速能力。
注意事项:
- 不应该依赖电影和电视节目来学习英语,应该结合其他方法。
- 在看电影和电视节目时,应该集中注意力,并记录新的词汇和语法。
- 不应该依赖字幕,应该尝试听英文 without subtitles。
结果看着还可以吧,还支持中文,这个非常不错。有时也非常不靠谱。
7b模型至少要N卡8g显存,我的是8g显卡,提问时,基本跑满8g。如果显卡不行,选个体积小点的模型。另外也有人说需要的是内存,不是显存,我也没太搞明白,大家自己再研究研究。
4.安装pinokio
安装这个pinokio,主要是为了有web界面,正常的途径是在docker环境下安装,docker也有学习成本,可能还涉及到一些命令。通过pinokio来安装Open WebUI,来实现ollama的web界面管理。到官网下载 pinokio,点『Download』,选windos版。
下载解压缩。
可以访问网络。
默认安装位置。
点visit discover page
在下面找到Open WebUI,这个就是ollama的web端。点进去。
点下载。
开始安装前要先安装python环境,git等。
分别安装以上这几项,最后安装Open WebUI。点击进入这个项目。
点下面的install,到github下载Open WebUI的项目,进行安装。


点start开启,服务运行起来后,访问本地的127.0.0.1:8000
注册一个帐号,这是一个本地的帐号,不是远端的。随便写。
进入之后,模型这选gemma 7b,
现在就可以像ChatGPT一样提问聊天了。
web端还可以上传pdf文件,进行分析,这里没有做演示。自己可去探索。
llava多模太模型
这个是安装多模态模型,没研究明白,这个直接跳过,我不想删除这段记录。
下载模型 ollama run llava:7b
5.模型目录转到其他目录
默认情况下,模型是安装到本地,用户名下一个.ollama下,一般模型都是几个g到十几个g,非常占用空间,可以设置参数,改变存储位置。设置环境变量,重新开启服务,把原来的模型转移过来。
重新运行,新下载的模型就存到h盘了,经过上面的设置,之前安装的模型是找不到的,需要重新下载,或者整体平稳过去。
6.注意事项
- 运行图形界面的web版时,后端的ollama服务一定要开,否则不能正常运行。
- 下载模型时,可能和本地网络有很大关系,如果网络不好,可能不能正常下载模型,我可以把gemma 7b的模型打包,分享网盘,自己到本地解压缩。
- 安装Open WebUI需要访问github,也可能存在网络问题。
- 一定要有N卡,显存至少4g以上,否则就不要试了。这个需要进一步验证。