跳至主要内容

把既有 OpenAI 應用切換到平台端點

目標:不改動應用程式架構,把原本呼叫 OpenAI API 的程式切換到平台的模型端點,全程只需要改兩個設定值。

費用:依所選模型的 Token 用量計費,單價見模型中心各模型的計價方式(Pricing)。

前置條件​

  • 已註冊帳號且有可用額度
  • 已建立 API 金鑰
  • 既有應用使用 OpenAI SDK(Python 或 JavaScript)或直接以 HTTP 呼叫

步驟 1:挑選對應的模型​

  1. 進入 Hub > 模型中心,依類型篩選找到符合需求的聊天模型。
  2. 建議先到遊樂場試用,確認回應品質與參數設定符合預期。

步驟 2:取得連線資訊​

在模型詳情點擊 API 端點(API Endpoint),面板會顯示 API 路徑與程式碼範例。記下:

  • API 路徑(作為 base_url)
  • 模型名稱(作為 model 參數)

步驟 3:修改應用設定​

以 Python 的 OpenAI SDK 為例,只需改 client 初始化:

from openai import OpenAI

# 原本:client = OpenAI(api_key="sk-...")
client = OpenAI(
    base_url="<步驟 2 取得的 API 路徑>",
    api_key="<您的平台 API 金鑰>",
)

# 呼叫端只需改模型名稱,其餘程式碼不變
response = client.chat.completions.create(
    model="<步驟 2 取得的模型名稱>",
    messages=[{"role": "user", "content": "Hello!"}],
)

建議把 base_url、api_key、model 三個值放進環境變數,方便在不同環境切換。

步驟 4:驗證​

  1. 執行應用,確認收到正常回應。
  2. 到 管理 > 使用量 > 模型推理使用量 確認呼叫紀錄與金額如預期。

費用控管​

替這個應用專用的 API 金鑰設定預算限額,超過額度時請求會被拒絕,避免異常流量燒穿預算。

下一步​

  • 流量成長、需要專屬資源時,改用私有端點,呼叫方式不變,只需再換一次 base_url 與模型名稱