前置准备

注册远程模型服务、获取 API Key，并在运行 QitOS 前完成基础连通性验证。

在运行任何依赖 LLM 的 QitOS 示例之前，你需要先准备一个远程模型 API。

QitOS 对 OpenAI-compatible provider 的适配通常最直接。只要你能拿到：

• 账号
• API Key
• Base URL
• 可调用的模型名称

通常就能开始使用。

​

推荐的远程模型平台

如果你刚开始使用 QitOS，下面两个平台是比较实用的起点：

• SiliconFlow
• 阿里云百炼 / Model Studio

这两类平台都常被用作 OpenAI-compatible 接口来源。注册流程、价格与试用额度会随时间调整，请以控制台和官方计费页的最新信息为准。

​

方案一：SiliconFlow

根据 SiliconFlow 官方快速上手文档，基本流程是：

1. 登录 SiliconFlow 官网
2. 打开 API 密钥页面
3. 新建 API Key
4. 在模型广场选择你要调用的模型
5. 使用它的 OpenAI-compatible Base URL：

https://api.siliconflow.cn/v1

官方快速上手页面还给出了直接使用 OpenAI Python SDK 调用的示例。

​

方案二：阿里云百炼 / Model Studio

根据阿里云百炼官方文档，基本流程是：

1. 登录 百炼控制台
2. 在目标地域打开 API Key 页面
3. 创建 API Key
4. 复制 API Key 并妥善保管
5. 使用对应地域的 OpenAI-compatible Base URL

以北京地域为例，官方兼容地址是：

https://dashscope.aliyuncs.com/compatible-mode/v1

阿里云百炼的官方计费说明也提到，控制台可能会提供面向符合条件用户的试用额度或免费试用入口。具体额度和有效期请以你账号下看到的最新活动为准。

​

设置环境变量

拿到 API Key 和 Base URL 后，先设置环境变量：

export OPENAI_API_KEY="sk-..."
export OPENAI_BASE_URL="https://api.siliconflow.cn/v1"

如果使用百炼：

export OPENAI_API_KEY="sk-..."
export OPENAI_BASE_URL="https://dashscope.aliyuncs.com/compatible-mode/v1"

​

先做一次最小连通性验证

在正式运行 QitOS 之前，建议先用 OpenAI SDK 做一次最小测试：

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="YOUR_BASE_URL",
)

response = client.chat.completions.create(
    model="YOUR_MODEL_NAME",
    messages=[{"role": "user", "content": "Say hello from QitOS."}],
)

print(response.choices[0].message.content)

如果这段代码能正常返回内容，通常就说明你的 provider 配置已经可以用于 QitOS。

​

在 QitOS 里需要填什么

在最简单的 OpenAI-compatible 场景下，你通常只需要这三项：

• api_key
• base_url
• model

例如：

from qitos.models import OpenAICompatibleModel

llm = OpenAICompatibleModel(
    model="Qwen/Qwen2.5-72B-Instruct",
    api_key=os.environ["OPENAI_API_KEY"],
    base_url=os.environ["OPENAI_BASE_URL"],
)

​

安全提醒

不要把 API Key 提交到仓库、截图、示例代码或共享 trace artifacts 中。优先使用环境变量、密钥管理服务或 provider 提供的临时凭证。

​

下一步

准备好远程模型后，继续阅读 Quickstart 或 构建第一个 Agent。