미래의 모델 설정 방식 탐색하기

개발을 하다 보면 여러 개의 API 계정을 관리하는 게 참 번거롭죠. 특히 업무용과 개인용 계정이 섞여 있거나, 모델이 갑자기 응답하지 않을 때를 대비한 Fallback 설정이 복잡해지면 머리가 아파지곤 해요. 설정을 더 직관적으로 바꿀 수 없을지 고민되는 지점입니다.

이 문서는 미래의 모델 설정을 위한 아이디어를 담고 있어요. 현재 적용된 사양이 아니라는 점을 참고해 주세요.

필요한 것

시작하기 전에 아래 개념들을 먼저 확인하면 도움이 돼요.

• Models에 대한 이해
• Model failover 동작 방식
• OAuth + profiles 설정 방법

빠른 시작

모델 설정을 단순화하기 위해 제안된 4가지 핵심 단계예요.

1. 단순한 모델 선택: provider/model 형식을 사용하고, 필요한 경우 Alias(별칭)를 추가해서 모델을 쉽게 선택하세요.
2. 멀티 Auth Profile 설정: 각 Provider에 개인용이나 업무용 등 여러 개의 프로필을 만들고 명시적인 순서를 정해줄 수 있어요.
3. 전역 Fallback 리스트 활용: 모든 세션이 일관되게 Failover될 수 있도록 공통 리스트를 사용해 보세요.
4. 이미지 라우팅 분리: 텍스트 모델과 이미지 모델을 명확히 구분하고, 꼭 필요한 경우에만 이미지 라우팅을 오버라이드하세요.

문제 해결

설정 과정에서 마주할 수 있는 고민과 논의 사항들이에요.

• Profile 선택을 UI에서 어떻게 보여줄까요?: 현재 세션별로 Profile 선택 기능을 UI에 어떻게 노출할지 최적의 방법을 찾고 있어요.
• Profile 로테이션 기준은 무엇인가요?: 로테이션을 Provider 단위로 할지, 아니면 개별 Model 단위로 적용할지 논의 중이에요.
• 기존 설정(Legacy config)은 어떻게 하나요?: 기존 키값에서 안전하게 마이그레이션할 수 있는 경로를 검토하고 있어요.

궁금한 점이 더 있다면 AI Setup Assistant에게 물어보세요.

다음 단계

• Models
• Model failover
• OAuth + profiles