把既有 OpenAI 應用切換到平台端點
目標:不改動應用程式架構,把原本呼叫 OpenAI API 的程式切換到平台的模型端點,全程只需要改兩個設定值。
部署私有 LLM 端點並啟用自動擴縮
目標:把模型部署成專屬端點,並設定自動擴縮讓服務隨負載增減副本,離峰時縮減至零以節省費用。
在 Pod 上執行批次任務並取回結果
目標:租用 GPU Pod 執行一次性批次任務(如批次推論、資料處理),把結果寫入 Volume,再從檔案瀏覽器下載,最後清理資源停止計費。
範例
以實際任務為目標的完整範例,每篇都包含費用說明、前置條件、步驟與資源清理。