OpenClaw mit LiteLLM verbinden

Du kennst das Problem: Du arbeitest mit verschiedenen LLMs und verlierst schnell den Überblick über die Kosten. Jedes Mal, wenn du ein Backend wechseln willst, musst du API Keys suchen oder deine Config anpassen. Das ist nervig und hält dich vom eigentlichen Programmieren ab.

Ich empfehle dir LiteLLM als Gateway. Es bietet eine einheitliche API für über 100 Provider. Wenn du OpenClaw über LiteLLM routest, bekommst du zentrales Cost Tracking und volle Flexibilität, ohne ständig deine OpenClaw-Konfiguration zu ändern.

Warum LiteLLM mit OpenClaw verwenden?

• Cost tracking: Du siehst genau, was OpenClaw für verschiedene Modelle ausgibt.
• Model routing: Wechsel zwischen Claude, GPT-4, Gemini oder Bedrock ohne Config-Änderungen.
• Virtual keys: Erstelle Keys mit Budget-Limits speziell für OpenClaw.
• Fallbacks: Automatisches Failover, falls dein primärer Provider offline ist.

What You’ll Need

• LiteLLM
• OpenClaw

Quick Start

In weniger als 5 Minuten ist alles startklar. Du hast zwei Möglichkeiten:

Über das Onboarding

Verwende den integrierten Befehl:

openclaw onboard --auth-choice litellm-api-key

Manuelle Einrichtung

1. Starte den LiteLLM Proxy:

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

2. Verbinde OpenClaw mit LiteLLM:

export LITELLM_API_KEY="your-litellm-key"

openclaw

Das war’s. OpenClaw routet jetzt alle Anfragen über LiteLLM.

Configuration

Environment variables

export LITELLM_API_KEY="sk-litellm-key"

Config file

Du kannst die Provider direkt in deiner Config definieren:

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Virtual keys

Erstelle einen eigenen Key für OpenClaw, um das Budget zu limitieren:

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Verwende den generierten Key danach als LITELLM_API_KEY.

Model routing

LiteLLM leitet Anfragen an verschiedene Backends weiter. Konfiguriere das in deiner LiteLLM config.yaml:

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw fragt weiterhin claude-opus-4-6 an, während LiteLLM das Routing im Hintergrund übernimmt.

Usage tracken

Du kannst den Verbrauch über das Dashboard oder die API prüfen:

# Key Informationen
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Troubleshooting

• Standard-Port: LiteLLM läuft normalerweise auf http://localhost:4000. Stelle sicher, dass dieser Port frei ist.
• Endpoint-Kompatibilität: OpenClaw verbindet sich über den OpenAI-kompatiblen /v1/chat/completions Endpoint.
• Features: Alle OpenClaw-Funktionen sind über LiteLLM ohne Einschränkungen verfügbar.

Hast du Fragen zur Einrichtung? Der AI Setup Assistant hilft dir direkt weiter.

What’s Next

• LiteLLM Docs
• Model Providers