既存の OpenAI アプリケーションをプラットフォームのエンドポイントに切り替える
目標:アプリケーションのアーキテクチャを変更せずに、OpenAI API を呼び出していたプログラムをプラットフォームのモデルエンドポイントに切り替えます。必要なのは 2 つの設定値の変更だけです。
プライベート LLM エンドポイントをデプロイしてオートスケーリングを有効にする
目標:モデルを専用エンドポイントとしてデプロイし、オートスケーリングを設定して負荷に応じてレプリカを増減させます。オフピーク時にはゼロまでスケールダウンして費用を節約します。
Pod でバッチジョブを実行して結果を取得する
目標:GPU Pod をレンタルして一回限りのバッチジョブ(バッチ推論、データ処理など)を実行し、結果をボリュームに書き込んでファイルブラウザからダウンロードし、最後にリソースをクリーンアップして課金を停止します。