关于 ollama 安装的一些提示

2025-04-19

Ollama 作为一个轻量化的大模型管理系统，目前使用广泛，大部分用于学习和自我实践，本文介绍 ollama 安装时的一些注意点

1. 端口变更

Ollama 的11434是默认的服务端口，当在某个开放公网的服务器中安装使用，不设置安全组的情况下，极不安全。扫描目前公网服务器开放的 11434 端口可想而知，所以安装时要及时变更端口号。

编辑 vi /etc/systemd/system/ollama.service 文件，在 [Service] 节点下新增

Environment="OLLAMA_HOST=0.0.0.0:<自定义的端口>"

在 shell 配置文件 .bashrc 或者全局的 /etc/profile 中添加变量

$ export OLLAMA_HOST=0.0.0.0:<自定义的端口>

使用 ollama pull 命令下载模型时，默认目录大部分时系统目录，如果有数据盘的划分，建议变更模型下载位置，保证主硬盘容量。

同样是编辑 vi /etc/systemd/system/ollama.service 文件，在 [Service] 节点下新增

Environment="OLLAMA_MODELS=/data/ollama_models"

为模型下载目录添加写入权限

$ chown -R ollama:ollama /data/ollama_models

$ systemctl daemon-reload
$ systemctl restart ollama

$ curl http://xxx.xxx.xxx.xxx:<自定义的端口>/api/generate -d '{
  "model": "qwen2.5",
  "prompt": "我该怎么使用你",
  "stream": false
}'

版权所有，本作品采用知识共享署名-非商业性使用 3.0 未本地化版本许可协议进行许可。转载请注明出处：https://www.wangjun.dev//2025/04/about-ollama-installation-tips/