Together AI로 다양한 오픈소스 모델 연결하기

새로운 AI 모델이 나올 때마다 매번 다른 API와 설정을 공부하는 건 정말 피곤한 일이죠. 여러 모델을 테스트하고 싶지만, 각기 다른 라이브러리를 설치하고 인증 방식을 맞추다 보면 정작 중요한 개발 로직에 집중하기 어려워지곤 합니다.

이런 번거로움을 줄이고 싶다면 Together AI가 좋은 선택이 될 거예요. 하나의 통합된 API를 통해 다양한 오픈소스 모델을 바로 사용할 수 있거든요.

필요한 것

시작하기 전에 다음 항목이 필요해요.

• TOGETHER_API_KEY (Together AI 계정에서 발급)

빠른 시작

Together AI는 Llama, DeepSeek, Kimi 같은 주요 오픈소스 모델을 제공하며, OpenAI와 호환되는 API를 사용합니다. 5분 안에 설정을 마칠 수 있어요.

1. API Key를 설정하세요. Gateway에 저장해서 사용하는 방식을 추천해요.

openclaw onboard --auth-choice together-api-key

2. 사용할 기본 모델을 설정 파일에 추가하세요.

{
  agents: {
    defaults: {
      model: { primary: "together/moonshotai/Kimi-K2.5" },
    },
  },
}

터미널에서 직접 명령어를 입력해 비대화형(Non-interactive)으로 설정할 수도 있습니다.

openclaw onboard --non-interactive \
  --mode local \
  --auth-choice together-api-key \
  --together-api-key "$TOGETHER_API_KEY"

이 명령어를 실행하면 together/moonshotai/Kimi-K2.5가 기본 모델로 지정됩니다.

사용 가능한 주요 모델

Together AI를 통해 다음 모델들을 바로 사용할 수 있어요.

• GLM 4.7 Fp8: 200K Context Window를 지원하는 기본 모델
• Llama 3.3 70B Instruct Turbo: 빠르고 효율적인 지시 이행
• Llama 4 Scout: 이미지 이해 능력을 갖춘 Vision 모델
• DeepSeek R1: 고급 추론 모델

문제 해결

설정 과정에서 문제가 생겼다면 다음 내용을 확인해 보세요.

• 환경 변수 인식 문제: Gateway를 데몬(launchd/systemd)으로 실행하는 경우, 해당 프로세스가 TOGETHER_API_KEY를 읽을 수 있어야 합니다. ~/.clawdbot/.env 파일에 키를 추가하거나 env.shellEnv 설정을 확인해 보세요.
• 인증 오류: API Key가 올바르게 입력되었는지, TOGETHER_API_KEY 변수명이 정확한지 다시 한번 체크해 주세요.

설정 중에 도움이 더 필요하다면 AI Setup Assistant에게 언제든 물어보세요.

다음 단계

• Gateway 구성 가이드
• 환경 변수 설정 방법