モデル推論 | ixCSP 文件

Models Hub(モデルハブ)

Models Hub(モデルハブ)は、プラットフォームに公開されている各種 AI モデルのカタログです。各モデルは 2 つの利用モードに対応しています:

プラットフォームのモデル推論 API は OpenAI API と互換性があります。これは次のことを意味します:

Playground(プレイグラウンド)はインタラクティブなモデルテスト環境です。モデル API の採用を決める前に、その場で試用して設定を調整できます。Playground はモデルタイプに応じたテストインターフェースを提供します。ここではチャットモデルを例に説明します。

プライベートエンドポイントは、モデルをお客様専用の推論サービスとしてデプロイする機能です。デプロイに使用する GPU/CPU リソースの使用時間に基づいて課金され、レイテンシ、スループット、データ分離に要件がある本番アプリケーションに適しています。