链载Ai

标题: 基于Ollama，搭建本地大模型Llama3.1 [打印本页]

作者: 链载Ai 时间: 昨天 10:54
标题: 基于Ollama，搭建本地大模型Llama3.1

Ollama安装

curl-fsSLhttps://ollama.com/install.sh|sh

如果服务器曾修改过DNS配置，此处可能出现https://ollama.com解析异常，修改DNS设置即可解决；WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.该异常可能会影响模型性能，目前未影响使用，后续修改会再更新。

Llama3.1安装

ollamarunllama3.1

默认安装的是8B，安装时间大概几分钟，success后即可进入对话内容。

使用

欢迎光临链载Ai (https://www.lianzai.com/)