主题模式
Are you an LLM? You can read better optimized documentation at /ai/llm/ollama-cheatsheet.md for this page in Markdown format
Ollama 常用命令速查表:模型管理、API 调用与进阶配置
本文汇总了 Ollama 最常用的命令和配置,方便你在日常使用中快速查阅。
📦 模型管理命令
下载模型
bash
# 下载并运行模型(首次会自动下载)
ollama run deepseek-r1:8b
# 仅下载模型(不进入交互界面)
ollama pull deepseek-r1:8b
# 下载特定量化版本
ollama pull deepseek-r1:8b-q4_0 # 4-bit 量化(默认)
ollama pull deepseek-r1:8b-q8_0 # 8-bit 量化(更高精度)查看模型列表
bash
# 查看已安装的模型
ollama list
# 输出示例:
# NAME ID SIZE MODIFIED
# deepseek-r1:8b abc123def 4.9 GB 2 hours ago
# llama3.1:8b xyz789ghi 4.7 GB 3 days ago
# qwen2.5:7b mno456pqr 4.5 GB 1 week ago删除模型
bash
# 删除指定模型
ollama rm deepseek-r1:8b
# 删除多个模型
ollama rm deepseek-r1:8b llama3.1:8b模型信息查看
bash
# 查看模型详细信息
ollama show deepseek-r1:8b
# 输出包含:模型参数、量化方式、架构等信息🚀 运行与交互命令
基本运行
bash
# 运行模型(进入交互界面)
ollama run deepseek-r1:8b
# 运行指定版本的模型
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b交互界面命令
在交互界面中可使用的命令:
| 命令 | 功能 |
|---|---|
/bye | 退出交互界面 |
/help | 显示帮助信息 |
/show info | 显示当前模型信息 |
/show license | 显示模型许可证 |
/show system | 显示系统提示词 |
/set parameter <name> <value> | 设置参数 |
/set system <prompt> | 设置系统提示词 |
/clear | 清除对话历史 |
单次运行(非交互)
bash
# 单次提问后自动退出
ollama run deepseek-r1:8b "用 Python 写一个快速排序"
# 管道输入
echo "解释什么是递归" | ollama run deepseek-r1:8b🔧 服务管理命令
启动/停止服务
bash
# 启动 Ollama 服务
ollama serve
# 停止服务(通过 systemd)
sudo systemctl stop ollama
# 重启服务
sudo systemctl restart ollama
# 查看服务状态
sudo systemctl status ollama服务配置
bash
# 查看当前服务地址
ollama show --address
# 设置监听地址(修改 systemd 服务)
sudo nano /etc/systemd/system/ollama.service
# 在 [Service] 下添加:
Environment="OLLAMA_HOST=0.0.0.0:11434"
# 重载配置
sudo systemctl daemon-reload
sudo systemctl restart ollama常用环境变量
| 环境变量 | 说明 | 默认值 |
|---|---|---|
OLLAMA_HOST | 服务监听地址 | 127.0.0.1:11434 |
OLLAMA_MODELS | 模型存储路径 | /usr/share/ollama/.ollama/models |
OLLAMA_KEEP_ALIVE | 模型保活时间 | 5m |
OLLAMA_NUM_PARALLEL | 并行请求数 | 1 |
OLLAMA_MAX_LOADED_MODELS | 最大加载模型数 | 1 |
🌐 API 调用
生成接口(Generate)
bash
# 使用 curl 调用
curl http://localhost:11434/api/generate -d '{
"model": "deepseek-r1:8b",
"prompt": "写一个 Python 的 Hello World",
"stream": false
}'
# 流式输出(默认)
curl http://localhost:11434/api/generate -d '{
"model": "deepseek-r1:8b",
"prompt": "解释什么是机器学习"
}'聊天接口(Chat)
bash
# 聊天模式(支持多轮对话)
curl http://localhost:11434/api/chat -d '{
"model": "deepseek-r1:8b",
"messages": [
{ "role": "user", "content": "什么是快速排序?" }
],
"stream": false
}'OpenAI 兼容接口
Ollama 提供兼容 OpenAI 格式的 API,方便与现有应用集成:
bash
# OpenAI 格式的聊天接口
curl http://localhost:11434/v1/chat/completions -d '{
"model": "deepseek-r1:8b",
"messages": [
{ "role": "user", "content": "写一个冒泡排序" }
]
}'
# OpenAI 格式的补全接口
curl http://localhost:11434/v1/completions -d '{
"model": "deepseek-r1:8b",
"prompt": "Python 的列表操作包括"
}'Python 示例
python
import requests
# 调用 Ollama API
response = requests.post('http://localhost:11434/api/generate', json={
"model": "deepseek-r1:8b",
"prompt": "用 Python 实现二分查找",
"stream": False
})
print(response.json()['response'])使用 OpenAI SDK
python
from openai import OpenAI
client = OpenAI(
base_url='http://localhost:11434/v1',
api_key='ollama' # 随意填写
)
response = client.chat.completions.create(
model="deepseek-r1:8b",
messages=[
{"role": "user", "content": "解释什么是递归"}
]
)
print(response.choices[0].message.content)🎨 自定义模型
创建 Modelfile
dockerfile
# 基础模型
FROM deepseek-r1:8b
# 设置参数
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER num_ctx 4096
# 系统提示词
SYSTEM """
你是一位资深程序员,擅长编写高质量代码。
回答时请遵循以下原则:
1. 代码简洁清晰
2. 添加必要注释
3. 解释关键逻辑
"""
# 消息模板(可选)
TEMPLATE """
{{ .System }}
用户: {{ .Prompt }}
助手:
"""构建自定义模型
bash
# 创建自定义模型
ollama create my-coder -f Modelfile
# 运行自定义模型
ollama run my-coder
# 查看自定义模型信息
ollama show my-coder常用参数说明
| 参数 | 说明 | 默认值 | 推荐范围 |
|---|---|---|---|
temperature | 输出随机性 | 0.8 | 0.0-1.0 |
top_p | 概率阈值 | 0.9 | 0.1-1.0 |
top_k | 最高概率 token 数 | 40 | 1-100 |
num_ctx | 上下文长度 | 2048 | 512-8192 |
num_predict | 最大生成 token 数 | -1(无限) | -1 或正数 |
stop | 停止词 | 无 | 自定义 |
📊 模型推荐列表
代码编程类
| 模型 | 参数量 | 适用场景 | 推荐指数 |
|---|---|---|---|
deepseek-r1:8b | 8B | 代码生成、推理 | ⭐⭐⭐⭐⭐ |
deepseek-coder-v2 | 6.7B | 代码补全、调试 | ⭐⭐⭐⭐⭐ |
codellama:7b | 7B | 代码生成 | ⭐⭐⭐⭐ |
通用对话类
| 模型 | 参数量 | 适用场景 | 推荐指数 |
|---|---|---|---|
llama3.1:8b | 8B | 通用对话、问答 | ⭐⭐⭐⭐⭐ |
qwen2.5:7b | 7B | 中文对话、问答 | ⭐⭐⭐⭐ |
mistral:7b | 7B | 英文对话 | ⭐⭐⭐⭐ |
多语言类
| 模型 | 参数量 | 适用场景 | 推荐指数 |
|---|---|---|---|
qwen2.5:7b | 7B | 中英文混合 | ⭐⭐⭐⭐⭐ |
gemma2:9b | 9B | 多语言对话 | ⭐⭐⭐⭐ |
轻量级模型
| 模型 | 参数量 | 内存占用 | 适用场景 |
|---|---|---|---|
deepseek-r1:1.5b | 1.5B | ~1GB | 快速补全、测试 |
phi3:3.8b | 3.8B | ~2.3GB | 资源受限环境 |
qwen2.5:0.5b | 0.5B | ~0.4GB | 极轻量场景 |
🔍 常用诊断命令
bash
# 查看 Ollama 版本
ollama --version
# 查看服务日志
journalctl -u ollama -f
# 测试服务连通性
curl http://localhost:11434/api/tags
# 查看模型运行状态
curl http://localhost:11434/api/ps🚀 快速启动模板
编程助手
bash
# 一键启动代码助手
ollama run deepseek-r1:8b --system "你是资深程序员,专注于编写高质量代码"中文助手
bash
# 一键启动中文助手
ollama run qwen2.5:7b --system "你是一位友好的中文助手,用简洁的语言回答问题"技术文档撰写
bash
# 一键启动文档助手
ollama run llama3.1:8b --system "你是一位技术作家,擅长撰写清晰易懂的技术文档"🔗 相关文章
- DeepSeek R1 部署教程 - 深度学习如何部署和集成 DeepSeek R1
- Ollama 入门教程 - 从零开始学习 Ollama
- Open WebUI 部署 - 给本地 AI 一个漂亮的 Web 界面
- Cursor AI 编程 - Cursor 使用技巧与进阶配置
