OpenClaw Ollama 整合是整個平台隱私優先理念的最佳體現,讓使用者能夠在完全離線環境下運行開源大型語言模型,同時保有與雲端模型相同的完整功能體驗。透過 Ollama 的 OpenAI 相容 API,OpenClaw 可以自動發現並載入本地模型,支援工具調用、推理模式、長上下文處理等進階功能,徹底消除對雲端服務提供者的依賴,為企業與個人用戶提供真正自主可控的 AI 代理能力。
OpenClaw 的 Ollama 整合採用智慧自動發現機制,無需繁瑣的手動配置:
啟動條件極簡:
1. 安裝 Ollama:https://ollama.ai
2. 下載模型:ollama pull llama3.3
3. 設定認證:export OLLAMA_API_KEY="ollama-local"
4. OpenClaw 自動識別可用模型
設定 OLLAMA_API_KEY 後,OpenClaw 會即時查詢本地 Ollama 實例(預設 http://127.0.0.1:11434),篩選具備工具支援的模型,並提取關鍵屬性:
自動解析資訊:
✓ tools 支援狀態(僅載入具工具能力的模型)
✓ reasoning 推理模式(偵測 thinking 能力)
✓ contextWindow 上下文長度(從模型架構資訊)
✓ maxTokens 自動設為上下文的 10 倍
✓ 成本統一為 0(本地免費運行)
新增模型只需執行 ollama pull mistral,OpenClaw 下一次會話就會自動識別並可用。
環境變數啟動(一行搞定):
export OLLAMA_API_KEY="ollama-local"
或配置檔設定:
openclaw config set models.providers.ollama.apiKey "ollama-local"
此模式下 OpenClaw 完全接管模型管理,自動過濾無工具支援的模型,適合快速上手。
當需要自訂主機位址、強制特定模型或調整參數時,使用明確配置:
~/.openclaw/openclaw.json:
models: {
providers: {
ollama: {
baseUrl: "http://ollama-server:11434/v1",
apiKey: "ollama-local",
api: "openai-completions",
models: [
{
id: "llama3.3",
name: "Llama 3.3",
reasoning: false,
input: ["text"],
contextWindow: 8192,
maxTokens: 81920,
cost: { input: 0, output: 0 }
}
]
}
}
}
明確模式停用自動發現,適合生產環境精準控制。
配置完成後,所有 Ollama 模型以 ollama/模型名 格式可用:
代理配置範例:
agents: {
defaults: {
model: {
primary: "ollama/llama3.3",
fallback: [
"ollama/qwen2.5-coder:32b",
"ollama/deepseek-r1:32b"
]
}
}
}
支援動態路由策略:
程式碼任務 → qwen2.5-coder(專精)
中文對話 → deepseek-r1(原生優化)
通用推理 → llama3.3(平衡)
OpenClaw 自動標記具備 thinking 能力的模型:
ollama pull deepseek-r1:32b
# OpenClaw 自動識別為 reasoning: true
自動偵測邏輯:
model_info["arch.context_length"] → contextWindow
無資訊時 → 預設 8192
maxTokens → contextWindow × 10
這種智慧適配確保不同模型的最佳效能發揮。
llama3.3:8b → 通用對話,4GB RAM 即可運行
qwen2.5:7b → 中文最佳,記憶體佔用低
gemma2:9b → Google 優化,推理速度快
qwen2.5-coder:32b → 程式碼生成與除錯王者
deepseek-r1:32b → 全棧開發 + 中文文檔
codestral:22b → Mistral 官方程式模型
mixtral:70b → 多專家混合推理
llama3.1:70b → Meta 旗艦開源模型
qwen2.5:72b → 通義千問頂級配置
個人電腦(16GB RAM):
✓ 8B 模型,GPU 加速(NVIDIA/Apple Silicon)
✓ 並行 2-3 個輕量會話
✗ 避免 70B 模型
專業工作站(32GB+ RAM,RTX 4070+):
✓ 32B 模型全速運行
✓ 並行 10+ 會話
✓ Skills + Browser 同時啟用
遠端 Ollama 部署:
baseUrl: "http://ollama-server.internal:11434/v1"
建議:Tailscale 私網 + HTTP/2
負載平衡:
多 Ollama 實例 → DNS 輪詢
OpenClaw 自動容錯切換
模型分區管理:
"tenants": {
"development": ["ollama/qwen2.5-coder"],
"research": ["ollama/llama3.1:70b"],
"support": ["ollama/llama3.3"]
}
容器化部署:
docker run -d --memory=16g --cpus=4
-p 11434:11434
-v ollama-models:/root/.ollama
ollama/ollama
OpenClaw 配置:
models.providers.ollama.baseUrl: "http://ollama-cluster:11434/v1"
即時狀態查詢:
openclaw models list --provider ollama
ollama ps (運行中模型)
openclaw agents metrics (代理效能數據)
資源監控指標:
模型載入時間、推理延遲
GPU 記憶體使用率、CPU 佔用
Token/秒吞吐量、錯誤率
檢查清單:
✓ OLLAMA_API_KEY 已設定
✓ 未定義 models.providers.ollama(隱式模式)
✓ ollama serve 運行中
✓ curl http://localhost:11434/api/tags 正常回應
常見原因:
1. 模型無工具支援 → ollama pull llama3.3
2. Ollama 未運行 → ollama serve
3. 防火牆阻擋 → 11434 埠 loopback 允許
診斷指令:
ps aux | grep ollama
curl -v http://localhost:11434/api/tags
netstat -an | grep 11434
32B 模型年成本對比(以 Claude Max 計):
雲端方案:$1800/年(高頻使用)
Ollama 方案:$0 硬體折舊(RTX 4070)
延遲對比:
本地推理:<500ms
雲端 API:800ms-2s(網路延遲)
隱私保障:
本地:100% 資料不出本地網路
雲端:依賴提供者合規承諾
優勢:
✓ 工具調用零網路延遲
✓ Skills 邏輯本地執行
✓ 敏感資料永不離開設備
工作流範例:
ollama/llama3.3 → 通用對話
ollama/qwen2.5-coder → 程式碼生成
ollama/deepseek-r1 → 中文分析
OpenClaw 智能路由
OpenClaw Ollama 整合代表了 AI 部署範式的根本轉變——從「依賴雲端智慧」轉向「自主掌握智能」。一行認證設定、一個本地模型,你就擁有了完全可控的 AI 代理,不受網路波動、服務中斷、隱私疑慮或成本限制的影響。
當企業需要處理敏感情報、開發者需要測試 Skills、研究人員需要實驗新模型,Ollama + OpenClaw 提供了唯一且完整的解決方案。這不僅是技術選擇,更是資料主權的宣言:你的資料、你的模型、你的智能,完全在你的掌控之中。