详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决
ollama 是一个开源的本地大语言模型运行框架,它提供了非常简单便捷的使用形式,让用户可以十分方便的在本地机器上部署和运行大型语言模型,从而实现免费离线的方式使用 LLM 能力,并确保私有数据的隐私和安全性。
1 ollama 安装
ollama 支持多种操作系统,包括 macOS、Windows、Linux 以及通过 Docker 容器运行。其安装、使用及模型下载非常简单,可以简单概括为以下几步:
• 下载 ollama 安装程序并安装。
• 启动 ollama,执行命令下载和运行模型。如:
ollama run deepseek-r1:1.5b
• 以命令行交互、API 调用、第三方应用接入等形式使用其服务。
1.1 硬件要求
ollama 本身对硬件要求并不高,主要取决于运行模型的要求。基本建议:
你应该至少有 4 GB 的 RAM 来运行 1.5B 模型,至少有 8 GB 的 RAM 来运行 7B 模型,16 GB 的 RAM 来运行 13B 模型,以及 32 GB 的 RAM 来运行 33B 模型。
假若需要本地私有化部署具有实用性的模型,应至少有独立显卡并有 4G 以上显存。纯 CPU 模式虽然也可以运行,但生成速度很慢,仅适用于本地开发调试体验一下。
本人实测在Mac Studio 2023 版(Apple M2 Max 芯片:12核、32G内存、30核显、1TB SSD)
上,运行 deepseek:1.5b
模型响应非常快,可以较为流畅的运行 deepseek-r1:32b
及以下的模型。
DeepSeek-r1 相关版本及大小参考:
参数版本 | 模型大小 | 建议CPU | 建议内存 | 建议显存 | 特点 |
---|---|---|---|---|---|
deepseek-r1:1.5b | 1.1GB | 4核 | 4~8G | 4GB | 轻量级,速度快、普通文本处理 |
deepseek-r1:7b | 4.7G | 8核 | 16G | 14GB | 性能较好,硬件要求适中 |
deepseek-r1:8b | 4.9GB | 8核 | 16G | 14GB | 略强于 7b,精度更高 |
deepseek-r1:14b | 9GB | 12核 | 32G | 26GB | 高性能,擅长复杂任务,如数学推理、代码生成 |
deepseek-r1:32b | 20GB | 16核 | 64G | 48GB | 专业级,适合高精度任务 |
deepseek-r1:70b | 43GB | 32核 | 128G | 140GB | 顶级模型,适合大规模计算和高复杂度任务 |
deepseek-r1:671b | 404GB | 64核 | 512G | 1342GB | 超大规模,性能卓越,推理速度快 |
1.2 Windows \ macOS \ Linux 下安装 ollama
Windows 和 macOS 用户可访问如下地址下载安装文件并安装:
• 国内中文站下载:http://ollama.org.cn/download/
• 官方下载:https://ollama.com/download/
• github release 下载:https://github.com/ollama/ollama/releases/
Linux 用户可以执行如下命令一键安装:
1 | curl -fsSL https://ollama.com/install.sh | bash |
安装完成后,可以通过执行 ollama --version
命令查看 ollama 版本信息,以验证是否安装成功。
ollama 离线安装:
Windows 和 macOS 下直接复制安装文件到本地本进行安装即可。
Linux 下的离线安装主要步骤参考如下:
1 | mkdir -p /home/ollama |
1.3 基于 Docker 安装 ollama
基于 Docker 可以使得 ollama 的安装、更新与启停管理更为便捷。
首先确保已安装了 docker,然后执行如下命令:
1 | # 拉取镜像 |
也可以基于 docker-compose
进行启停管理。docker-compose.yml
参考:
1 | services: |
1.4 修改 ollama 模型默认保存位置
ollama
下载的模型默认的存储目录如下:
• macOS:
~/.ollama/models
• Linux:
/usr/share/ollama/.ollama/models
• Windows:
C:\Users\<username>\.ollama\models
若默认位置存在磁盘空间告急的问题,可以通过设置环境变量 OLLAMA_MODELS
修改模型存储位置。示例:
1 | # macOS / Linux:写入环境变量配置到 ~/.bashrc 文件中 |
如果已经下载过模型,可以从上述默认位置将 models 目录移动到新的位置。
对于 docker 安装模式,则可以通过挂载卷的方式修改模型存储位置。
1.5 使用:基于 API 形式访问 ollama 服务
ollama 安装完成并正常启动后,可以通过命令行形式运行模型(如:ollama run deepseek-r1:1.5b
),并通过命令行交互的方式进行测试。
此外也可以通过访问 http://localhost:11434
以 API 调用的形式调用。示例:
1 | curl http://localhost:11434/api/generate -d '{ |
ollama API 文档参考:
• https://ollama.readthedocs.io/api/
• https://github.com/ollama/ollama/blob/main/docs/api.md
2 使用 ollama 下载和运行模型
2.1 使用 ollama 命令行下载和运行模型
执行如下命令下载并运行一个模型:
1 | # 基本格式为: |
运行成功则会进入命令行交互模式,可以直接输入问题并获得应答反馈,也可以通过 API 调用方式测试和使用。
从如下地址可搜索 ollama 所有支持的模型:
• 中文站:https://ollama.org.cn/search
• 官方站:https://ollama.com/search
从 HF 和魔塔社区下载模型
ollama 还支持从 HF 和魔塔社区下载第三方开源模型。基本格式为:
1 | # 从 HF(https://huggingface.co) 下载模型的格式 |
2.2 使用 ollama create 导入本地模型
通过 ollama run
和 ollama pull
命令均是从官方地址下载模型,可能会遇到下载速度慢、下载失败等问题。
ollama 支持从本地导入模型。我们可以从第三方下载模型文件并使用 ollama create
命令导入到 ollama 中。
例如,假若我们下载了 deepseek-r1:8b
模型文件,并保存在 /data/ollama/gguf/deepseek-r1-8b.gguf
,则可执行如下命令进行导入:
1 | cd /data/ollama/gguf |
相关文档参考:
• https://ollama.readthedocs.io/import/
• https://ollama.readthedocs.io/modelfile/
3 ollama 常用命令参考
ollama 提供了丰富的命令行工具,方便用户对模型进行管理。
•
ollama --help
:查看帮助信息。•
ollama serve
:启动 ollama 服务。•
ollama create <model-name> [-f Modelfile]
:根据一个 Modelfile 文件导入模型。•
ollama show <model-name:[size]>
:显示某个模型的详细信息。•
ollama run <model-name:[size]>
:运行一个模型。若模型不存在会先拉取它。•
ollama stop <model-name:[size]>
:停止一个正在运行的模型。•
ollama pull <model-name:[size]>
:拉取指定的模型。•
ollama push <model-name>
:将一个模型推送到远程模型仓库。•
ollama list
:列出所有模型。•
ollama ps
:列出所有正在运行的模型。•
ollama cp <source-model-name> <new-model-name>
:复制一个模型。•
ollama rm <model-name:[size]>
:删除一个模型。
4 ollama 安装使用常见问题及解决
4.1 ollama 模型下载慢:离线下载与安装模型
通过 ollama 官方命令拉取模型,可能会遇到网速慢、下载时间过长等问题。
4.1.1 开始快后来慢:间隔性重启下载
由于模型文件较大,下载过程中可能会遇到开始网速还可以,后面变慢的情况。许多网友反馈退出然后重试则速度就可以上来了,所以可以尝试通过每隔一段时间退出并重新执行的方式以保持较快的下载速率。
以下是基于该逻辑实现的下载脚本,注意将其中的 deepseek-r1:7b
替换为你希望下载的模型版本。
Windows 下在 powershell 中执行:
1 | while ($true) { |
macOS / Linux
下在终端中执行:
1 | #!/bin/bash |
4.1.2 通过网盘等第三方离线下载并导入 ollama 模型
可以通过国内的第三方离线下载模型文件,再导入到 ollama 中。详细参考 2.2 章节。
deepseek-r1
相关模型夸克网盘下载:
链接:https://pan.quark.cn/s/7fa235cc64ef 提取码:wasX
也可以从 魔塔社区、HuggingFace 等大模型社区搜索并下载 stuff 格式的模型文件。例如:
• https://modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF/files
• https://huggingface.co/unsloth/DeepSeek-R1-GGUF
4.1.3 从国内大模型提供站下载模型
ollama 支持从魔塔社区直接下载模型。其基本格式为:
1 | `ollama run modelscope.cn/{model-id}` |
一个模型仓库可能包含多个模型,可以指定到具体的模型文件名以只下载它。示例:
1 | ollama run modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF |
下载 deepseek-r1
模型命令参考:
1 | # deepseek-r1:7b |
此外,也可以从 HF 的国内镜像站(https://hf-mirror.com)查找和拉取模型,方法与上述类似:
1 | # 基本格式 |
4.2 ollama 服务设置允许局域网访问
默认情况下 API 服务仅允许本机访问,若需要允许局域网其他设备直接访问,可修改环境变量 OLLAMA_HOST
为 0.0.0.0
,并修改 OLLAMA_ORIGINS
为允许的域名或 IP 地址。
环境变量设置示例:
1 | # windows 命令提示符下执行: |
特别注意:
• 如果你是在云服务器等拥有公网IP的环境上部署,请谨慎做此设置,否则可能导致 API 服务被恶意调用。
• 若需要局域网其他设备访问,请确保防火墙等安全设置允许 11434 端口访问。
• 若需要自定义访问端口号,可通过环境变量
OLLAMA_HOST
设置,如:OLLAMA_HOST=0.0.0.0:11435
。
4.3 为 ollama API 服务访问增加 API KEY 保护
为云服务器部署的服务增加 API KEY 以保护服务
如果你是通过云服务器部署,那么需要特别注意服务安全,避免被互联网工具扫描而泄露,导致资源被第三方利用。
可以通过部署 nginx 并设置代理转发,以增加 API KEY 以保护服务,同时需要屏蔽对 11434 端口的互联网直接访问形式。
nginx
配置:
1 | server { |
5 集成可视化工具
在部署了 ollama 并拉取了 deepseek 等模型后,即可通过命令行交互和 API 服务方式使用,但使用起来并不方便。
开源社区中有许多大模型相关的可视化工具,如 open-webui、chat-ui、cherry-studio、AnythingLLM 等,可以方便地集成 ollama API 服务,提供图形化界面使用,以实现聊天机器人、问答知识库等多元化应用。在官方文档中列举了大量较为流行的工具应用:https://ollama.readthedocs.io/quickstart/#web
我们后续会选择其中较为典型的工具进行集成和介绍。
5.1 示例:基于 docker 部署 open-webui 并配置集成 ollama 服务
Open WebUI 是一个开源的大语言模型项目,通过部署它可以得到一个纯本地运行的基于浏览器访问的 Web 服务。它提供了可扩展、功能丰富、用户友好的自托管 AI Web 界面,支持各种大型语言模型(LLM)运行器,可以通过配置形式便捷的集成 ollama、OpenAI 等提供的 API。
通过 Open WebUI 可以实现聊天机器人、本地知识库、图像生成等丰富的大模型应用功能。
在开始之前,请确保你的系统已经安装了 docker。
接着拉取大语言模型 deepseek-r1:8b
和用于 RAG 构建本地知识库的嵌入模型 bge-m3
:
1 | `ollama pull deepseek-r1:8b ollama pull bge-m3` |
然后新建文件 docker-compose.yml
,内容参考:
1 | services: |
这里需注意 environment
环境变量部分的自定义设置。许多设置也可以通过登录后在 web 界面进行修改。
在该目录下执行该命令以启动服务:docker-compose up -d
。成功后即可通过浏览器访问:http://localhost:8080
。
服务镜像更新参考:
1 | # 拉取新镜像 |
- • open-webui 详细文档参考:https://docs.openwebui.com/getting-started/env-configuration
可选:开启“联网搜索”功能
操作路径:设置 - 联网搜索 - 启用联网搜索
当前已支持接入的联网搜索引擎中,在不需要魔法上网的情况下,有 bing 和 bocha 可以选择接入。基本只需要前往注册并获取 API KEY 回填到这里即可。如果需要保护隐私数据,请不要开启并配置该功能。
- • 博查文档:https://aq6ky2b8nql.feishu.cn/wiki/XgeXwsn7oiDEC0kH6O3cUKtknSR
总结与参考
通过以上内容,我们了解了 ollama 在国内环境下的安装使用方法,并介绍了因为国内网络特色导致安装过程可能会遇到的常见问题及解决办法。希望这些内容对你有所帮助,如果你有任何问题或建议,欢迎在评论区留言交流。
• ollama 官方站:https://ollama.com
• ollama 中文站:https://ollama.org.cn
• ollama 入门:https://ollama.readthedocs.io/quickstart/
• ollama 常见问题:https://ollama.readthedocs.io/faq/
• 魔塔社区:https://modelscope.cn
• HF Mirror:https://hf-mirror.com
• open-webui 文档:https://docs.openwebui.com
转载
本文转载自志文工作室