1. 为什么需要手动离线部署Ollama最近在帮团队搭建本地AI开发环境时遇到了一个典型问题官方提供的Ollama安装脚本执行起来像蜗牛爬行经常卡在下载环节。这种情况在国内开发者中相当普遍主要原因包括网络延迟、下载速度限制等。官方推荐的curl安装方式虽然简单但在特殊网络环境下反而成了最大的障碍。手动离线部署的核心思路很简单先把安装包完整下载到本地再通过修改官方脚本实现无网络依赖的安装。这种方式不仅解决了网络问题还能保留官方脚本的完整性检查、依赖安装等关键功能。我实测下来原本需要几小时的安装过程用离线方式15分钟就能搞定。2. 准备工作与环境检查2.1 硬件与系统要求在开始之前建议先确认你的设备满足以下条件操作系统Linuxx86_64/ARM、macOS或WindowsWSL2内存至少8GB运行7B模型的最低要求存储空间建议预留50GB以上模型文件通常很大可以通过这些命令快速检查系统信息# 查看CPU架构 uname -m # 查看内存大小 free -h # 查看磁盘空间 df -h2.2 手动下载安装包官方发布页提供了各平台的编译版本打开GitHub Releases页面根据你的系统选择对应版本Linux系统ollama-linux-amd64.tgzmacOSollama-darwin-amd64.tgzWindowsollama-windows-amd64.exe建议将下载的压缩包放在专用目录比如mkdir -p /var/ollama mv ~/Downloads/ollama-linux-amd64.tgz /var/ollama/3. 修改官方安装脚本3.1 获取原始安装脚本即使选择离线安装官方脚本仍然很有价值cd /var/ollama curl https://ollama.com/install.sh -o install.sh3.2 关键修改步骤用文本编辑器打开install.sh找到以下关键部分注释掉所有在线下载代码块约第50-70行在install_success()函数前添加本地解压命令$SUDO tar -xzf ollama-linux-amd64.tgz -C $OLLAMA_INSTALL_DIR修改后的脚本结构应该是# 原下载代码被注释 # curl --fail --show-error --location --progress-bar \ # https://ollama.com/download/ollama-linux-${ARCH}.tgz${VER_PARAM} | \ # $SUDO tar -xzf - -C $OLLAMA_INSTALL_DIR # 新增本地解压命令 $SUDO tar -xzf ollama-linux-amd64.tgz -C $OLLAMA_INSTALL_DIR install_success() { # 原有内容保持不变 }4. 执行安装与验证4.1 运行安装脚本确保安装包和脚本在同一目录后chmod x install.sh sudo ./install.sh成功安装后会看到类似输出 Download complete. Installing Ollama to /usr/local/bin... Creating ollama user... Ollama installed successfully.4.2 服务状态检查验证服务是否正常运行systemctl status ollama # 或手动启动 ollama serve 检查端口监听情况netstat -ltnp | grep ollama # 正常应看到11434端口监听5. 高级配置技巧5.1 修改模型存储路径默认模型存储在~/.ollama要更改位置sudo mkdir -p /var/ollama-models sudo chown -R ollama:ollama /var/ollama-models编辑环境变量配置sudo vim /etc/profile # 添加以下内容 export OLLAMA_MODELS/var/ollama-models export OLLAMA_HOST0.0.0.0:11434使配置生效source /etc/profile sudo systemctl restart ollama5.2 远程访问配置如果需要从其他设备访问确保防火墙放行11434端口测试远程连接curl http://服务器IP:11434/api/tags6. 模型管理与应用6.1 离线导入模型对于已有模型文件.bin格式ollama create mymodel -f Modelfile ollama push mymodel6.2 常用开发接口Python调用示例使用LangChainfrom langchain_ollama import ChatOllama llm ChatOllama( modelqwen2.5:7b, base_urlhttp://localhost:11434 ) response llm.invoke(解释量子计算)7. 常见问题排查7.1 安装失败处理如果遇到权限问题sudo chown -R ollama:ollama /var/ollama sudo systemctl restart ollama7.2 模型加载异常检查模型完整性ollama list ollama pull --insecure qwen2.5:7b日志查看命令journalctl -u ollama -f8. 性能优化建议对于生产环境部署使用Nginx反向代理添加HTTPS支持配置模型缓存策略设置资源限制防止OOMsudo vim /etc/systemd/system/ollama.service.d/limits.conf # 添加内存限制 [Service] MemoryLimit16G