기존 OpenAI 애플리케이션을 플랫폼 엔드포인트로 전환하기
목표: 애플리케이션 아키텍처를 변경하지 않고, 기존에 OpenAI API를 호출하던 프로그램을 플랫폼의 모델 엔드포인트로 전환합니다. 전체 과정에서 설정 값 두 개만 변경하면 됩니다.
비용: 선택한 모델의 토큰 사용량에 따라 과금됩니다. 단가는 Models Hub 각 모델의 가격 정책(Pricing)을 참조하십시오.
사전 준비 사항
- 계정 가입 완료 및 사용 가능한 크레딧 보유
- API 키 생성 완료
- 기존 애플리케이션이 OpenAI SDK(Python 또는 JavaScript)를 사용하거나 HTTP로 직접 호출
1단계: 대응하는 모델 선택
- Hub > Models Hub로 이동하여 유형별로 필터링하고 요구 사항에 맞는 채팅 모델을 찾습니다.
- 먼저 Playground에서 테스트하여 응답 품질과 파라미터 설정이 기대에 부합하는지 확인하는 것이 좋습니다.
2단계: 연결 정보 확인
모델 상세 정보에서 API Endpoint를 클릭하면 패널에 API 경로와 코드 예제가 표시됩니다. 다음을 기록해 둡니다.
- API 경로(
base_url로 사용) - 모델 이름(
model파라미터로 사용)
3단계: 애플리케이션 설정 변경
Python의 OpenAI SDK를 예로 들면, client 초기화만 변경하면 됩니다.
from openai import OpenAI
# 기존: client = OpenAI(api_key="sk-...")
client = OpenAI(
base_url="<2단계에서 확인한 API 경로>",
api_key="<사용자의 플랫폼 API 키>",
)
# 호출 측은 모델 이름만 변경하면 되며, 나머지 코드는 그대로 유지됩니다
response = client.chat.completions.create(
model="<2단계에서 확인한 모델 이름>",
messages=[{"role": "user", "content": "Hello!"}],
)
base_url, api_key, model 세 값은 환경 변수로 관리하면 다른 환경 간 전환이 편리합니다.
4단계: 검증
- 애플리케이션을 실행하여 정상 응답을 받는지 확인합니다.
- Management > Usage > Model Inference Usage에서 호출 기록과 금액이 예상대로인지 확인합니다.
비용 관리
이 애플리케이션 전용 API 키에 예산 한도를 설정하십시오. 한도를 초과하면 요청이 거부되어 비정상 트래픽으로 예산이 소진되는 것을 방지할 수 있습니다.
다음 단계
- 트래픽이 늘어나 전용 리소스가 필요해지면 프라이빗 엔드포인트로 전환하십시오. 호출 방식은 동일하며,
base_url과 모델 이름만 한 번 더 변경하면 됩니다