既存の OpenAI アプリケーションをプラットフォームのエンドポイントに切り替える
目標:アプリケーションのアーキテクチャを変更せずに、OpenAI API を呼び出していたプログラムをプラットフォームのモデルエンドポイントに切り替えます。必要なのは 2 つの設定値の変更だけです。
費用:選択したモデルのトークン使用量に基づいて課金されます。単価は Models Hub(モデルハブ)の各モデルの Pricing(料金)を参照してください。
前提条件
- アカウント登録済みで、利用可能なクレジットがあること
- API キーを作成済みであること
- 既存アプリケーションが OpenAI SDK(Python または JavaScript)を使用しているか、HTTP で直接呼び出していること
ステップ 1:対応するモデルを選ぶ
- Hub > Models Hub(モデルハブ) に移動し、タイプで絞り込んで要件に合うチャットモデルを見つけます。
- まず Playground で試用し、応答の品質とパラメータ設定が期待どおりであることを確認することをおすすめします。
ステップ 2:接続情報を取得する
モデル詳細で API Endpoint をクリックすると、パネルに API パスとコードサンプルが表示されます。次の項目を控えておきます:
- API パス(
base_urlとして使用) - モデル名(
modelパラメータとして使用)
ステップ 3:アプリケーションの設定を変更する
Python の OpenAI SDK の例では、client の初期化を変更するだけです:
from openai import OpenAI
# 元のコード:client = OpenAI(api_key="sk-...")
client = OpenAI(
base_url="<ステップ 2 で取得した API パス>",
api_key="<あなたのプラットフォーム API キー>",
)
# 呼び出し側はモデル名を変えるだけで、それ以外のコードは変更不要です
response = client.chat.completions.create(
model="<ステップ 2 で取得したモデル名>",
messages=[{"role": "user", "content": "Hello!"}],
)
base_url、api_key、model の 3 つの値は環境変数に入れておくと、環境ごとの切り替えが容易になります。
ステップ 4:検証する
- アプリケーションを実行し、正常な応答を受け取れることを確認します。
- Management > Usage > Model Inference Usage で、呼び出し記録と金額が想定どおりであることを確認します。
費用管理
このアプリケーション専用の API キーに予算上限を設定してください。上限を超えるとリクエストが拒否されるため、異常なトラフィックで予算を使い切ってしまうことを防げます。
次のステップ
- トラフィックが増加して専用リソースが必要になったら、プライベートエンドポイントに切り替えてください。呼び出し方法は変わらず、
base_urlとモデル名をもう一度置き換えるだけです