LiteLLM으로 OpenClaw 모델 관리하기

여러 LLM API를 동시에 사용하다 보면 관리가 참 복잡해지죠. 모델마다 API 키를 따로 챙겨야 하고, 한 달에 얼마를 썼는지 한눈에 확인하기도 어렵습니다. 모델을 바꿀 때마다 코드나 설정을 매번 수정하는 것도 개발자에게는 꽤 피곤한 일이에요.

LiteLLM을 사용하면 이런 번거로움을 줄일 수 있습니다. OpenClaw의 설정을 바꾸지 않고도 백엔드 모델을 자유롭게 교체하고, 전체적인 사용량을 관리할 수 있거든요.

필요한 것

• LiteLLM
• OpenClaw

빠른 시작

가장 빠른 방법은 온보딩 명령어를 사용하는 거예요.

openclaw onboard --auth-choice litellm-api-key

직접 설정하고 싶다면 다음 단계를 따라 하세요.

1. LiteLLM Proxy 시작하기:

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

2. OpenClaw가 LiteLLM을 바라보도록 설정하기:

export LITELLM_API_KEY="your-litellm-key"

openclaw

이제 끝났습니다. OpenClaw의 모든 요청이 LiteLLM을 거쳐서 전달됩니다.

Configuration

Environment variables

export LITELLM_API_KEY="sk-litellm-key"

Config file

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Virtual keys

OpenClaw 전용 키를 만들고 예산 제한을 걸 수 있습니다.

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

여기서 생성된 키를 LITELLM_API_KEY로 사용하세요.

Model routing

LiteLLM은 요청을 서로 다른 백엔드로 보낼 수 있습니다. LiteLLM의 config.yaml에서 설정하세요.

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw는 계속 claude-opus-4-6 모델을 요청하지만, 실제 라우팅은 LiteLLM이 처리합니다.

Viewing usage

LiteLLM 대시보드나 API를 통해 사용량을 확인하세요.

# 키 정보 확인
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# 소비 로그 확인
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

문제 해결

• 연결 주소 확인: LiteLLM은 기본적으로 http://localhost:4000 주소를 사용합니다.
• 엔드포인트 설정: OpenClaw는 OpenAI와 호환되는 /v1/chat/completions 엔드포인트를 통해 연결되어야 합니다.

더 자세한 설정 방법이 궁금하다면 AI Setup Assistant에게 물어보세요.

다음 단계

• LiteLLM Docs
• Model Providers