Models Hub(모델 허브)
Models Hub(모델 허브)는 플랫폼에 등록된 다양한 AI 모델 카탈로그를 제공합니다. 각 모델은 두 가지 사용 모드를 지원합니다.
OpenAI 호환 API
플랫폼의 모델 추론 API는 OpenAI API와 호환됩니다. 이는 다음을 의미합니다.
Playground(플레이그라운드)
Playground(플레이그라운드)는 인터랙티브 모델 테스트 환경으로, 특정 모델 API 도입을 결정하기 전에 실시간으로 테스트하고 설정을 조정할 수 있습니다. Playground는 모델 유형에 따라 해당하는 테스트 인터페이스를 제공합니다. 아래에서는 채팅 모델을 예로 설명합니다.
프라이빗 엔드포인트(My Endpoints)
프라이빗 엔드포인트는 모델을 사용자 전용 추론 서비스로 배포하며, 배포에 사용된 GPU/CPU 리소스의 사용 시간에 따라 과금됩니다. 지연 시간, 처리량 또는 데이터 격리에 대한 요구 사항이 있는 프로덕션 애플리케이션에 적합합니다.