AI工具有那些? @ 香港AI工具平台
OpenClaw Ollama:OpenClaw Ollama 整合是整個平台隱私優先理念的最佳體現,讓使用者能夠在完全離線環境下運行開源大型語言模型,同時保有與雲端模型相同的完整功能體驗。透過 Ollama 的 OpenAI 相容 API,OpenClaw 可以自動發現並載入本地模型,支援工具調用、推理模式、長上下文處理等進階功能,徹底消除對雲端服務提供者的依賴,為企業與個人用戶提供真正自主可控的 AI 代理能力。


環球AI能力評測基準認證考試 ACE, AI證照 @ ExtranAI
AI資訊

OpenClaw Ollama

OpenClaw Ollama:本地 AI 模型的無縫整合方案

OpenClaw Ollama 整合是整個平台隱私優先理念的最佳體現,讓使用者能夠在完全離線環境下運行開源大型語言模型,同時保有與雲端模型相同的完整功能體驗。透過 Ollama 的 OpenAI 相容 API,OpenClaw 可以自動發現並載入本地模型,支援工具調用、推理模式、長上下文處理等進階功能,徹底消除對雲端服務提供者的依賴,為企業與個人用戶提供真正自主可控的 AI 代理能力。

 

零配置自動發現:即插即用的模型生態

OpenClaw 的 Ollama 整合採用智慧自動發現機制,無需繁瑣的手動配置:

啟動條件極簡:
1. 安裝 Ollama:https://ollama.ai
2. 下載模型:ollama pull llama3.3
3. 設定認證:export OLLAMA_API_KEY="ollama-local"
4. OpenClaw 自動識別可用模型
 

設定 OLLAMA_API_KEY 後,OpenClaw 會即時查詢本地 Ollama 實例(預設 http://127.0.0.1:11434),篩選具備工具支援的模型,並提取關鍵屬性:

自動解析資訊:
✓ tools 支援狀態(僅載入具工具能力的模型)
✓ reasoning 推理模式(偵測 thinking 能力)
✓ contextWindow 上下文長度(從模型架構資訊)
✓ maxTokens 自動設為上下文的 10 倍
✓ 成本統一為 0(本地免費運行)
 

新增模型只需執行 ollama pull mistral,OpenClaw 下一次會話就會自動識別並可用。

 

雙重配置模式:靈活適應各種部署

隱式發現模式(推薦個人用戶)

環境變數啟動(一行搞定):
export OLLAMA_API_KEY="ollama-local"

或配置檔設定:
openclaw config set models.providers.ollama.apiKey "ollama-local"
 

此模式下 OpenClaw 完全接管模型管理,自動過濾無工具支援的模型,適合快速上手。

 

明確配置模式(企業部署)

當需要自訂主機位址、強制特定模型或調整參數時,使用明確配置:

~/.openclaw/openclaw.json:
models: {
  providers: {
    ollama: {
      baseUrl: "http://ollama-server:11434/v1",
      apiKey: "ollama-local",
      api: "openai-completions",
      models: [
        {
          id: "llama3.3",
          name: "Llama 3.3",
          reasoning: false,
          input: ["text"],
          contextWindow: 8192,
          maxTokens: 81920,
          cost: { input: 0, output: 0 }
        }
      ]
    }
  }
}
 

明確模式停用自動發現,適合生產環境精準控制。

 

模型選擇與路由:智能任務分配

配置完成後,所有 Ollama 模型以 ollama/模型名 格式可用:

代理配置範例:
agents: {
  defaults: {
    model: {
      primary: "ollama/llama3.3",
      fallback: [
        "ollama/qwen2.5-coder:32b",
        "ollama/deepseek-r1:32b"
      ]
    }
  }
}
 

支援動態路由策略:

程式碼任務 → qwen2.5-coder(專精)
中文對話 → deepseek-r1(原生優化)
通用推理 → llama3.3(平衡)
 

進階模型屬性:企業級能力標記

推理模型識別

OpenClaw 自動標記具備 thinking 能力的模型:

ollama pull deepseek-r1:32b
# OpenClaw 自動識別為 reasoning: true
 

自適應上下文管理

自動偵測邏輯:
model_info["arch.context_length"] → contextWindow
無資訊時 → 預設 8192
maxTokens → contextWindow × 10
 

這種智慧適配確保不同模型的最佳效能發揮。

 

熱門 Ollama 模型推薦搭配

輕量高效類(8B 參數,個人電腦)

llama3.3:8b     → 通用對話,4GB RAM 即可運行
qwen2.5:7b      → 中文最佳,記憶體佔用低
gemma2:9b       → Google 優化,推理速度快
 

專業程式類(32B 參數,專業工作站)

qwen2.5-coder:32b → 程式碼生成與除錯王者
deepseek-r1:32b   → 全棧開發 + 中文文檔
codestral:22b     → Mistral 官方程式模型
 

高階推理類(70B+,伺服器部署)

mixtral:70b      → 多專家混合推理
llama3.1:70b     → Meta 旗艦開源模型
qwen2.5:72b      → 通義千問頂級配置
 

部署最佳實踐:效能與穩定性優化

硬體配置建議

個人電腦(16GB RAM):
✓ 8B 模型,GPU 加速(NVIDIA/Apple Silicon)
✓ 並行 2-3 個輕量會話
✗ 避免 70B 模型

專業工作站(32GB+ RAM,RTX 4070+):
✓ 32B 模型全速運行
✓ 並行 10+ 會話
✓ Skills + Browser 同時啟用
 

網路與服務優化

遠端 Ollama 部署:
baseUrl: "http://ollama-server.internal:11434/v1"
建議:Tailscale 私網 + HTTP/2

負載平衡:
多 Ollama 實例 → DNS 輪詢
OpenClaw 自動容錯切換
 

企業級部署配置

多租戶模型池

模型分區管理:
"tenants": {
  "development": ["ollama/qwen2.5-coder"],
  "research": ["ollama/llama3.1:70b"],
  "support": ["ollama/llama3.3"]
}
 

資源隔離與 QoS

容器化部署:
docker run -d --memory=16g --cpus=4
  -p 11434:11434
  -v ollama-models:/root/.ollama
  ollama/ollama

OpenClaw 配置:
models.providers.ollama.baseUrl: "http://ollama-cluster:11434/v1"
 

效能監控與調優

即時狀態查詢:
openclaw models list --provider ollama
ollama ps                    (運行中模型)
openclaw agents metrics      (代理效能數據)

資源監控指標:
模型載入時間、推理延遲
GPU 記憶體使用率、CPU 佔用
Token/秒吞吐量、錯誤率
 

疑難排解:常見問題解決方案

Ollama 未偵測問題

檢查清單:
✓ OLLAMA_API_KEY 已設定
✓ 未定義 models.providers.ollama(隱式模式)
✓ ollama serve 運行中
✓ curl http://localhost:11434/api/tags 正常回應
 

無可用模型顯示

常見原因:
1. 模型無工具支援 → ollama pull llama3.3
2. Ollama 未運行 → ollama serve
3. 防火牆阻擋 → 11434 埠 loopback 允許
 

連線拒絕錯誤

診斷指令:
ps aux | grep ollama
curl -v http://localhost:11434/api/tags
netstat -an | grep 11434
 

成本效益分析:雲端 vs 本地

32B 模型年成本對比(以 Claude Max 計):
雲端方案:$1800/年(高頻使用)
Ollama 方案:$0 硬體折舊(RTX 4070)

延遲對比:
本地推理:<500ms
雲端 API:800ms-2s(網路延遲)
隱私保障:
本地:100% 資料不出本地網路
雲端:依賴提供者合規承諾
 

生態擴充:Ollama + OpenClaw 的無限可能

Skills 本地化執行

優勢:
✓ 工具調用零網路延遲
✓ Skills 邏輯本地執行
✓ 敏感資料永不離開設備
 

多模型協作

工作流範例:
ollama/llama3.3 → 通用對話
ollama/qwen2.5-coder → 程式碼生成
ollama/deepseek-r1 → 中文分析
OpenClaw 智能路由
 

結語:資料主權時代的 AI 自主

OpenClaw Ollama 整合代表了 AI 部署範式的根本轉變——從「依賴雲端智慧」轉向「自主掌握智能」。一行認證設定、一個本地模型,你就擁有了完全可控的 AI 代理,不受網路波動、服務中斷、隱私疑慮或成本限制的影響。

當企業需要處理敏感情報、開發者需要測試 Skills、研究人員需要實驗新模型,Ollama + OpenClaw 提供了唯一且完整的解決方案。這不僅是技術選擇,更是資料主權的宣言:你的資料、你的模型、你的智能,完全在你的掌控之中