模型中心(Models Hub)
模型中心提供平台上架的各類 AI 模型目錄。每個模型支援兩種使用模式:
OpenAI 相容 API
平台的模型推論 API 與 OpenAI API 相容。這代表:
遊樂場(Playground)
遊樂場是互動式模型測試環境,讓您在確定採用某個模型 API 前即時試用與調整設定。遊樂場依模型類型提供對應的測試介面,以下以聊天模型為例。
私有端點(My Endpoints)
私有端點把模型部署成專屬於您的推論服務,按部署所用的 GPU/CPU 資源使用時數計費,適合對延遲、吞吐量或資料隔離有要求的正式應用。