OpenAI 호환 API
플랫폼의 모델 추론 API는 OpenAI API와 호환됩니다. 이는 다음을 의미합니다.
- 기존 코드를 거의 수정할 필요가 없습니다:
base_url과api_key만 교체하면 기존에 OpenAI를 호출하던 애플리케이션을 플랫폼 엔드포인트로 전환할 수 있습니다. - OpenAI 공식 SDK를 그대로 사용할 수 있습니다: Python, JavaScript 생태계의 기존 툴체인을 그대로 활용할 수 있으며, 별도의 전용 SDK를 설치할 필요가 없습니다.
- 공개 엔드포인트와 프라이빗 엔드포인트의 호출 방식이 동일합니다: 두 엔드포인트 모두 동일한 API 규약을 따르며, 차이점은 Base URL과 모델 이름뿐입니다.
연결 정보 확인
공개 엔드포인트: Hub > Models Hub에서 모델 카드를 클릭하고 API Endpoint를 선택하면 패널에 Python / JavaScript / cURL 코드 예제와 API 경로가 제공됩니다.
프라이빗 엔드포인트: Gen AI Studio > My Endpoints에서 엔드포인트를 선택하면 상세 정보(Details)의 프라이빗 API 정보(Private API Information)에 Base URL, 모델 이름, 엔드포인트 유형, API 경로가 포함되어 있습니다. Show Code를 클릭하면 전체 예제를 확인할 수 있습니다.
호출 예제
채팅 모델을 예로 들면 다음과 같습니다(콘솔 패널에 표시된 Base URL과 모델 이름을 기준으로 하십시오).
from openai import OpenAI
client = OpenAI(
base_url="<콘솔에 표시된 API 경로>",
api_key="your-api-key-here", # 사용자의 API 키로 교체
)
response = client.chat.completions.create(
model="<콘솔에 표시된 모델 이름>",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "GPU란 무엇인가요?"},
],
temperature=0.7,
)
print(response.choices[0].message.content)
curl <콘솔에 표시된 API 경로> \
-H "Content-Type: application/json" \
-H "Authorization: Bearer your-api-key-here" \
-d '{
"model": "<콘솔에 표시된 모델 이름>",
"messages": [{"role": "user", "content": "GPU란 무엇인가요?"}]
}'
팁
Playground에서 조정한 파라미터(예: Temperature)는 View code로 생성되는 예제에 그대로 반영됩니다. 원하는 설정을 찾은 후 복사하는 것이 가장 간편합니다.