在 OpenClaw 部署本地模型：LM Studio 與 MiniMax 設定指南

每次看到雲端 API 的帳單心都在滴血，或是擔心敏感資料被傳到外部伺服器？想在自己的機器上跑模型，但又怕效能跟不上。其實現在本地部署已經很成熟了，只要硬體夠力，你完全可以打造一個既私密又強大的 AI 環境。

Local models

本地執行是可行的，但 OpenClaw 需要大 context 以及強大的防禦能力來對抗 prompt injection。小模型會縮減 context 並導致安全性漏洞。建議目標定高一點：至少 2 台頂規 Mac Studio 或同等級的 GPU 設備（約 $30k+ 美金）。單張 24 GB GPU 僅適用於較簡單的 prompt，且延遲較高。請使用你能跑得動的最大型 / 全尺寸模型版本；過度量化或「小型」的 checkpoint 會增加 prompt-injection 的風險（參考 Security）。

如果你追求最低門檻的本地設定，可以從 Ollama 和 openclaw onboard 開始。這篇文件是針對高階本地架構和自定義 OpenAI 相容本地伺服器的進階指南。

推薦方案：LM Studio + 大型本地模型 (Responses API)

這是目前最佳的本地架構。在 LM Studio 中載入大型模型（例如全尺寸的 Qwen, DeepSeek 或 Llama 版本），啟動本地伺服器（預設為 http://127.0.0.1:1234），並使用 Responses API 來將推理過程與最終文本分開。

{
  agents: {
    defaults: {
      model: { primary: “lmstudio/my-local-model” },
      models: {
        “anthropic/claude-opus-4-6”: { alias: “Opus” },
        “lmstudio/my-local-model”: { alias: “Local” },
      },
    },
  },
  models: {
    mode: “merge”,
    providers: {
      lmstudio: {
        baseUrl: “http://127.0.0.1:1234/v1”,
        apiKey: “lmstudio”,
        api: “openai-responses”,
        models: [
          {
            id: “my-local-model”,
            name: “Local Model”,
            reasoning: false,
            input: [“text”],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

設定檢查清單

• 安裝 LM Studio：https://lmstudio.ai
• 在 LM Studio 中下載可用的最大模型版本（避免使用「小型」或過度量化的版本），啟動伺服器，並確認 http://127.0.0.1:1234/v1/models 有列出該模型。
• 將 my-local-model 替換為 LM Studio 中顯示的實際模型 ID。
• 保持模型載入狀態；冷啟動會增加啟動延遲。
• 如果你的 LM Studio 版本不同，請調整 contextWindow/maxTokens。
• 針對 WhatsApp，請堅持使用 Responses API，這樣只有最終文本會被傳送。

即使在執行本地模型時，也要保持託管模型的配置；使用 models.mode: "merge" 讓備用方案 (fallback) 保持可用。

混合配置：託管模型作為主模型，本地作為備用

{
  agents: {
    defaults: {
      model: {
        primary: "anthropic/claude-sonnet-4-6",
        fallbacks: ["lmstudio/my-local-model", "anthropic/claude-opus-4-6"],
      },
      models: {
        "anthropic/claude-sonnet-4-6": { alias: "Sonnet" },
        "lmstudio/my-local-model": { alias: "Local" },
        "anthropic/claude-opus-4-6": { alias: "Opus" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

本地優先，託管模型作為安全網

交換主模型和備用模型的順序；保持相同的 providers 區塊和 models.mode: "merge"，這樣當本地機器掛掉時，你可以自動切換回 Sonnet 或 Opus。

區域託管 / 資料路由

• 託管的 MiniMax/Kimi/GLM 變體也存在於 OpenRouter 上，並提供固定區域的 endpoint（例如美國託管）。在那裡選擇區域變體，可以將流量保持在特定的司法管轄區，同時仍能透過 models.mode: "merge" 使用 Anthropic/OpenAI 作為備用。
• 僅限本地 (Local-only) 仍然是最強的隱私路徑；託管的區域路由則是當你需要供應商功能但又想控制資料流向時的中庸之道。

其他相容 OpenAI 的本地代理

如果你使用 vLLM, LiteLLM, OAI-proxy 或自定義 Gateway，只要它們提供 OpenAI 風格的 /v1 endpoint 就能運作。將上面的 provider 區塊替換為你的 endpoint 和模型 ID：

{
  models: {
    mode: "merge",
    providers: {
      local: {
        baseUrl: "http://127.0.0.1:8000/v1",
        apiKey: "sk-local",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 120000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

保持 models.mode: "merge"，讓託管模型能繼續作為備用方案。

疑難排解

• Gateway 能連到代理伺服器嗎？測試看看：curl http://127.0.0.1:1234/v1/models。
• LM Studio 模型沒載入？重新載入；冷啟動是常見的「卡住」原因。
• Context 錯誤？調低 contextWindow 或提高你的伺服器限制。
• 安全性：本地模型會跳過供應商端的過濾器；請保持 agent 功能單一並開啟壓縮功能，以限制 prompt injection 的影響範圍。

AI Setup Assistant

下一步

• Security
• Ollama