Ollama mit OpenClaw nutzen

Kennst du das? Du willst nur kurz ein neues Model testen, aber erst musst du API-Keys generieren, Kreditkarten hinterlegen und hoffen, dass deine Daten nicht auf irgendwelchen Servern landen. Ich hatte genau dieses Problem, bis ich Ollama entdeckt habe. Es ist die einfachste Art, LLMs lokal zu hosten, und OpenClaw macht die Integration jetzt noch einfacher.

In diesem Guide zeige ich dir, wie du deine lokalen Modelle so einbindest, dass sie sich fast von selbst konfigurieren.

Voraussetzungen

• Eine laufende Ollama-Installation.
• OpenClaw auf deinem System.
• Ein Model mit Tool-Support (wie Llama 3.3 oder Qwen 2.5).
• Ein wenig Platz auf deiner GPU oder deinem RAM.

Schnellstart

In fünf Minuten ist alles startklar. Folge einfach diesen Schritten:

1. Ollama installieren: Hol dir das Tool auf https://ollama.ai.

2. Model laden: Öffne dein Terminal und lade ein Model deiner Wahl:

ollama pull llama3.3
# oder
ollama pull qwen2.5-coder:32b

3. Ollama für OpenClaw aktivieren: Da Ollama lokal läuft, braucht es keinen echten Key. OpenClaw nutzt den Key aber als Signal, um die automatische Suche zu starten.

# Temporär im Terminal
export OLLAMA_API_KEY="ollama-local"

# Oder dauerhaft in deiner Config
openclaw config set models.providers.ollama.apiKey "ollama-local"

4. Model nutzen: Trage das Model in deiner Konfiguration ein:

{
  agents: {
    defaults: {
      model: { primary: "ollama/llama3.3" },
    },
  },
}

Model Discovery (Automatische Erkennung)

Wenn du OLLAMA_API_KEY setzt und keinen manuellen Eintrag unter models.providers.ollama erstellst, sucht OpenClaw automatisch unter http://127.0.0.1:11434 nach Modellen.

Das passiert dabei im Hintergrund:

• OpenClaw fragt /api/tags und /api/show ab.
• Es werden nur Modelle übernommen, die tools unterstützen.
• Wenn ein Model thinking meldet, wird es als reasoning markiert.
• Die Kosten werden automatisch auf 0 gesetzt.

So bleibt dein Katalog aktuell, ohne dass du jedes Mal die Config anfassen musst, wenn du ein neues Model mit ollama pull lädst.

Konfiguration

Manuelle Einrichtung

Du solltest die explizite Konfiguration nutzen, wenn:

• Ollama auf einem anderen Server oder Port läuft.
• Du Modelle erzwingen willst, die eigentlich keinen Tool-Support melden.

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://mein-server:11434/v1",
        apiKey: "ollama-local",
        api: "openai-completions",
        models: [
          {
            id: "llama3.3",
            name: "Llama 3.3 Local",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 8192,
            maxTokens: 81920
          }
        ]
      }
    }
  }
}

Advanced

Streaming und Probleme

Es gibt aktuell einen Bug im zugrunde liegenden SDK, wie Ollama Streaming-Antworten formatiert. Das führt oft zu kaputtem Text, wenn Tools im Spiel sind. Deshalb ist Streaming für Ollama standardmäßig deaktiviert. Die Antworten kommen also am Stück an, was die Stabilität deutlich erhöht.

Falls du Streaming trotzdem erzwingen willst (auf eigene Gefahr):

{
  agents: {
    defaults: {
      models: {
        "ollama/llama3.3": {
          streaming: true,
        },
      },
    },
  },
}

Reasoning Models

Modelle wie DeepSeek-R1 werden von OpenClaw automatisch erkannt, wenn Ollama die entsprechenden Metadaten liefert. Du musst nichts weiter tun, als das Model zu laden:

ollama pull deepseek-r1:32b

Fehlerbehebung

Ollama wird nicht gefunden

Prüfe, ob der Prozess läuft und die API erreichbar ist:

curl http://localhost:11434/api/tags

Stelle sicher, dass du OLLAMA_API_KEY gesetzt hast, damit die Auto-Discovery startet.

Keine Modelle in der Liste

OpenClaw zeigt nur Modelle an, die Tools beherrschen. Wenn dein Model fehlt, lade eine Version, die Tool-Calling unterstützt, oder trage es manuell in die Config ein.

Connection Refused

Das liegt meistens an einer Firewall oder einem falschen Port. Prüfe mit ps aux | grep ollama, ob der Dienst wirklich aktiv ist.

Komische Zeichen in der Ausgabe

Wenn du Tool-Namen wie memory_get im Text siehst, hast du wahrscheinlich Streaming manuell aktiviert. Schalte es in der Config wieder aus, um den SDK-Fehler zu umgehen.

Hast du noch Fragen zum Setup? Frag den AI Setup Assistant.

Nächste Schritte

• Model Providers – Alle Anbieter im Überblick
• Model Selection – So wählst du das richtige Model
• Configuration – Die komplette Referenz
• Gateway Guide – Mehr aus deinem Gateway herausholen