Ollama: LLM locales en OpenClaw

Configurar modelos locales solía ser un proceso tedioso lleno de archivos JSON y configuraciones manuales que nunca terminaban de funcionar. Si alguna vez has querido probar un modelo nuevo sin preocuparte por el coste de los tokens o la privacidad de tus datos, Ollama es la mejor opción que tienes ahora mismo.

He pasado mucho tiempo probando diferentes formas de integrar modelos locales y te aseguro que la combinación de OpenClaw con Ollama es la más directa. OpenClaw detecta automáticamente qué modelos tienen capacidades de herramientas (tools), ahorrándote el trabajo sucio de configuración.

Requisitos previos

Para empezar a trabajar con modelos locales, solo necesitas esto:

• Ollama instalado en tu máquina.
• OpenClaw configurado en tu proyecto.
• Al menos un modelo descargado (como Llama 3.3 o Qwen 2.5).
• Conexión a internet solo para la descarga inicial.

Inicio rápido

Configura tu entorno local en menos de 5 minutos siguiendo estos pasos:

1. Instala Ollama: Descárgalo desde https://ollama.ai.

2. Descarga un modelo: Abre tu terminal y elige uno de estos modelos recomendados:

   ollama pull gpt-oss:20b
   ollama pull llama3.3
   ollama pull qwen2.5-coder:32b
   ollama pull deepseek-r1:32b

3. Activa Ollama en OpenClaw: Ollama no necesita una API key real, pero OpenClaw la usa para saber que quieres activar el provider. Puedes usar cualquier texto:

   # Opción A: Variable de entorno
   export OLLAMA_API_KEY="ollama-local"
   
   # Opción B: En tu archivo de configuración
   openclaw config set models.providers.ollama.apiKey "ollama-local"

4. Usa el modelo en tus agents: Configura tu agent para que use el prefijo ollama/:

   {
     agents: {
       defaults: {
         model: { primary: "ollama/gpt-oss:20b" },
       },
     },
   }

Model discovery (implicit provider)

Si defines OLLAMA_API_KEY y dejas vacía la sección models.providers.ollama, OpenClaw buscará modelos en tu instancia local (http://127.0.0.1:11434). Este es el método que te recomiendo porque automatiza cuatro tareas:

• Filtra modelos que no soportan tools.
• Detecta si el modelo soporta reasoning (pensamiento).
• Configura el contextWindow automáticamente desde la información del modelo.
• Establece todos los costes a 0.

Para verificar qué modelos ha detectado OpenClaw, usa estos comandos:

ollama list
openclaw models list

Configuration

Setup explícito (Modelos manuales)

Usa la configuración explícita si necesitas que Ollama corra en otro host o si quieres forzar parámetros específicos:

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434/v1",
        apiKey: "ollama-local",
        api: "openai-completions",
        models: [
          {
            id: "gpt-oss:20b",
            name: "GPT-OSS 20B",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 8192,
            maxTokens: 81920
          }
        ]
      }
    }
  }
}

Streaming Configuration

Por defecto, el streaming está desactivado para los modelos de Ollama. Esto se debe a un problema conocido en el SDK que corrompe la respuesta cuando se usan herramientas. Al desactivarlo, las respuestas llegan completas de una vez, lo que garantiza que el output sea legible y los procesos no fallen.

Si decides activarlo bajo tu propio riesgo, puedes hacerlo así:

{
  agents: {
    defaults: {
      models: {
        "ollama/gpt-oss:20b": {
          streaming: true,
        },
      },
    },
  },
}

Solución de problemas

Ollama no detectado

Asegúrate de que el servicio esté corriendo en segundo plano. Ejecuta ollama serve si no estás seguro. También verifica que la API responda correctamente con este comando:

curl http://localhost:11434/api/tags

No aparecen modelos en la lista

OpenClaw solo muestra modelos que reportan soporte para herramientas. Si tu modelo no aparece, tienes dos opciones: descargar un modelo compatible como llama3.3 o definir el modelo manualmente en el archivo de configuración.

Error de conexión (Connection refused)

Revisa si Ollama está usando un puerto distinto al predeterminado (11434). Si has cambiado el puerto, deberás usar la configuración explícita para definir el baseUrl correcto.

Respuestas corruptas

Si ves nombres de herramientas como memory_get mezclados en el texto, es probable que hayas activado el streaming manualmente. La solución es simple: elimina la opción streaming: true de tu configuración o cámbiala a false.

¿Necesitas ayuda con tu configuración? Prueba nuestro AI Setup Assistant.

Próximos pasos

• Model Providers - Otros proveedores disponibles.
• Model Selection - Cómo elegir el mejor modelo para tu tarea.
• Configuration - Referencia completa de configuración.
• Gateway Overview - Cómo funciona el Gateway de OpenClaw.