Cloudflare AI Gateway로 LLM 관리하기

LLM을 연동해서 서비스를 만들다 보면 API 호출 비용이나 성능을 실시간으로 파악하기가 참 어렵죠. 일일이 로그를 뒤져보거나 별도의 대시보드를 직접 구축하는 일은 개발자에게 꽤나 번거로운 작업이에요.

Cloudflare AI Gateway를 사용하면 이런 고민을 간단하게 해결할 수 있어요. 제공자 API 앞단에서 분석, 캐싱, 제어 기능을 더해주는 똑똑한 중간 다리 역할을 해주거든요. OpenClaw에서 Anthropic 모델을 더 효율적으로 관리하고 싶다면 이 방법을 추천해요.

필요한 것

시작하기 전에 다음 정보들이 준비되어 있는지 확인해 주세요.

• Cloudflare Account ID 및 Gateway ID
• Anthropic API Key
• OpenClaw 설치 환경

빠른 시작

5분 안에 설정을 마칠 수 있는 가장 빠른 방법이에요.

1. 먼저 터미널에서 인증 방식을 설정해 주세요.

openclaw onboard --auth-choice cloudflare-ai-gateway-api-key

2. 그 다음, 설정 파일에서 기본 모델을 지정해 주세요.

{
  agents: {
    defaults: {
      model: { primary: "cloudflare-ai-gateway/claude-sonnet-4-5" },
    },
  },
}

대화형 설정이 귀찮다면 아래처럼 한 번에 실행할 수도 있어요.

openclaw onboard --non-interactive \
  --mode local \
  --auth-choice cloudflare-ai-gateway-api-key \
  --cloudflare-ai-gateway-account-id "your-account-id" \
  --cloudflare-ai-gateway-gateway-id "your-gateway-id" \
  --cloudflare-ai-gateway-api-key "$CLOUDFLARE_AI_GATEWAY_API_KEY"

문제 해결

설정 과정에서 문제가 생겼다면 다음 두 가지를 체크해 보세요.

Gateway 인증을 활성화한 경우

Cloudflare에서 Gateway 인증 기능을 켰다면, Provider API Key 외에 cf-aig-authorization 헤더를 추가로 보내야 해요. 아래와 같이 설정 파일에 헤더를 넣어주세요.

{
  models: {
    providers: {
      "cloudflare-ai-gateway": {
        headers: {
          "cf-aig-authorization": "Bearer \<cloudflare-ai-gateway-token\>",
        },
      },
    },
  },
}

백그라운드 프로세스(Daemon) 환경 문제

Gateway를 launchd나 systemd 같은 Daemon으로 실행하고 있다면, 해당 프로세스가 CLOUDFLARE_AI_GATEWAY_API_KEY 환경 변수에 접근할 수 있는지 확인해야 해요. ~/.openclaw/.env 파일에 작성하거나 env.shellEnv를 통해 값을 넘겨주면 해결돼요.

더 궁금한 점이 있나요? AI Setup Assistant에게 바로 물어보세요.

다음 단계

• Anthropic 모델 설정 가이드
• OpenClaw 환경 변수 관리하기