Linux安装Ollama

官网的一键安装命令下载太慢不推荐使用,使用离线安装的模式。

bash

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
tar -C /usr -xzf ollama-linux-amd64.tgz

bash

ollama serve

在另一个终端中,验证 Ollama 是否正在运行

bash

ollama -v

bash

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)

bash

mkdir -p /data/ollama/models
chown -R ollama:ollama /data/ollama

bash

tee /etc/systemd/system/ollama.service <<'EOF'
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0" 
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_MODELS=/data/ollama/models"

[Install]
WantedBy=default.target
EOF

OLLAMA_HOST 允许外部访问

OLLAMA_ORIGINS 允许的来源

OLLAMA_MODELS 模型目录

bash

systemctl start ollama
systemctl enable ollama

启动失败查看日志

bash

journalctl -e -u ollama

bash

ollama pull nomic-embed-text