OpenAI 兼容 API
平台的模型推理 API 与 OpenAI API 兼容。这意味着:
- 既有代码几乎零改动:只需替换
base_url与api_key,即可把原本调用 OpenAI 的应用切换到平台端点。 - 直接使用 OpenAI 官方 SDK:Python、JavaScript 生态的既有工具链都能直接沿用,不需要安装任何专属 SDK。
- 公开端点与私有端点的调用方式一致:两者都遵循同样的 API 约定,差别只在 Base URL 与模型名称。
获取连接信息
公开端点:在 Hub > 模型中心 点击模型卡片,选择 API 端点(API Endpoint),面板提供 Python / JavaScript / cURL 代码示例与 API 路径。
私有端点:在 Gen AI Studio > 我的端点(My Endpoints) 点击端点,详细信息(Details)中的私有 API 信息(Private API Information)包含 Base URL、模型名称、端点类型与 API 路径;点击 显示代码(Show Code) 可获取完整示例。
调用示例
以聊天模型为例(请以控制台面板显示的 Base URL 与模型名称为准):
from openai import OpenAI
client = OpenAI(
base_url="<控制台显示的 API 路径>",
api_key="your-api-key-here", # 替换成您的 API 密钥
)
response = client.chat.completions.create(
model="<控制台显示的模型名称>",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "什么是 GPU?"},
],
temperature=0.7,
)
print(response.choices[0].message.content)
curl <控制台显示的 API 路径> \
-H "Content-Type: application/json" \
-H "Authorization: Bearer your-api-key-here" \
-d '{
"model": "<控制台显示的模型名称>",
"messages": [{"role": "user", "content": "什么是 GPU?"}]
}'
提示
在 Playground 调整过的参数(如 Temperature)会同步反映在「查看代码(View code)」生成的示例中,调到满意再复制,最省事。