扫码关注官方微信
扫码下载APP
此人很懒,什么也没有留下
当春节的喧嚣逐渐沉寂
红色的灯笼在夜空中渐渐暗淡
夜色如同最柔软的丝绸
轻轻披在每个渴望宁静的心灵之上
在这春意盎然的时刻
在这祥和的夜晚
让我们一起学习部署DeepSee
这个强大的AI大模型
以其无与伦比的智慧
为我们的数据处理带来革命性的进步
让这份技术之美
如同春节后的第一场春雨
悄无声息地滋润你的心田
引领我们探索智能新时代
正片开始
Deepseek本地部署适合的场景是数据不能公开,需要建立私有知识库,代替自己书写论文专利或者其他有保密要求的文档的情况,亦或者是调教电子宠物。
本教程主要为在任意电脑,不论电脑性能情况下部署deepseek-r1:32b的大模型私有化使用,后续会有私有化调试,建立私有知识库等教程。
教程开始
0.1 拥有联网浏览器
0.2 打开 colab.research.google.com 该网页
1. 新建笔记本
2. 将下面代码粘贴
!nvidia-smi!curl-fsSLhttps://ollama.com/install.sh|sh!pipinstallcolab-xterm%load_extcolabxterm%xterm
点击左边按钮执行,显示类似下面
3 启动服务
3.1 执行下面代码启动命令窗口
%xterm
3.2 在启动的黑色窗口执行如下面命令,用于启动ollama 服务
ollamaserve
如图:
4 代码块执行
!ollamapulldeepseek-r1:32b
5 执行如命令,用于启动交互式deepseek
!ollamarundeepseek-r1:32b
经测试,以上教程可以在任意主机运行
缺点:1、依赖网络;2、每天使用时间存在限制。
期待大家发掘更多的功能。
后续计划写一个python调用,以及投喂更多私有数据,训练专用AI的教程,敬请期待。
使用道具 举报
本版积分规则 发表回复 回帖并转播 回帖后跳转到最后一页