빠른 시작: 첫 번째 모델 API 호출
이 페이지에서는 5분 안에 첫 번째 모델 추론 호출을 완료하는 방법을 안내합니다. 플랫폼의 공개 엔드포인트는 OpenAI API와 호환되므로, OpenAI SDK를 사용해 본 적이 있다면 새로 배울 것이 거의 없습니다.
사전 준비 사항
1단계: API 키 생성
- Management > Keys 페이지로 이동합니다.
- Add API Key를 클릭하고 키 이름을 입력합니다. 필요에 따라 예산 한도(Budget Limit)를 설정할 수 있습니다.
- Create를 클릭한 후, 키 내용을 즉시 복사하여 안전하게 보관합니다.
주의
생성 패널을 닫으면 전체 키 내용을 다시 확인할 수 없습니다. 분실한 경우 새 키를 생성해 주십시오.
2단계: 모델 선택
- Hub > Models Hub로 이동하여 등록된 모든 모델을 살펴봅니다. 유형별로 필터링하거나 이름, 제공업체로 검색할 수 있습니다.
- 모델 카드를 클릭하여 가격 정책(Pricing)과 모델 정보를 확인합니다.
- API Endpoint를 클릭하면 패널에 Python, JavaScript, cURL 세 가지 코드 예제와 API 경로가 표시됩니다.
3단계: 첫 번째 요청 보내기
패널의 코드 예제를 복사하고 your-api-key-here를 1단계에서 생성한 API 키로 교체합니다. Python 예제는 다음과 같습니다.
from openai import OpenAI
client = OpenAI(
base_url="<패널에 표시된 API 경로>",
api_key="your-api-key-here", # 사용자의 API 키로 교체
)
response = client.chat.completions.create(
model="<패널에 표시된 모델 이름>",
messages=[{"role": "user", "content": "한 문장으로 자기소개를 해주세요"}],
)
print(response.choices[0].message.content)
실행 후 모델의 응답을 받으면 완료입니다. 비용은 토큰 사용량에 따라 계산되며, Management > Usage에서 언제든지 각 호출 기록을 확인할 수 있습니다.
다음 단계
- 코드를 작성하기 전에 인터랙티브하게 테스트하고 싶다면 Playground(플레이그라운드)에서 모델을 사용해 보십시오
- 전용 리소스와 더 안정적인 지연 시간이 필요하다면 프라이빗 엔드포인트 배포를 참조하십시오
- OpenAI 호환 API의 세부 사항을 확인하십시오