如何通过 OpenAI 兼容 API 使用 DeepSeek

By TokuseTokuse
AIAPIDeepSeek教程

DeepSeek 已经提供 OpenAI 风格的端点。真正的问题是:base URL 放在哪里、如何处理模型名称,以及在生产流量切换前需要测试什么。

试用 Tokuse: 创建免费账户 并通过一个 OpenAI 兼容端点发送你的第一个请求。

本指南以 Tokuse 作为网关示例,因为其公开模型目录列出了 deepseek-flash 和 deepseek-v4-pro,并在以下地址提供 OpenAI 兼容 API:

https://tokuse.com/v1

你账户显示的模型集合、配额和价格可能变化。部署前请查看当前目录。

OpenAI 兼容意味着什么

兼容意味着现有的 OpenAI SDK 通常只需更改 base URL 和模型名称即可发送请求。你的应用可以保留熟悉的客户端结构:

SDK -> OpenAI-compatible base URL -> model alias -> provider

网关接收请求、解析模型、附加提供商凭证,并返回规范化响应。这样提供商变更就不会进入产品代码。

兼容并不意味着每个提供商特有的参数都以相同方式工作。请用你计划使用的确切 SDK 和模型测试流式输出、工具调用、JSON 输出、错误码和 token 计费。

Python 配置

安装 OpenAI SDK:

pip install openai

在服务器上设置 Tokuse 密钥:

export TOKUSE_API_KEY="YOUR_KEY"

然后使用标准的 chat completions 接口:

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKUSE_API_KEY"],
    base_url="https://tokuse.com/v1",
)

response = client.chat.completions.create(
    model="deepseek-flash",
    messages=[
        {
            "role": "system",
            "content": "Return a compact JSON object. Do not add commentary.",
        },
        {
            "role": "user",
            "content": "Extract the company name and plan from: Acme Pro, billed monthly.",
        },
    ],
    response_format={"type": "json_object"},
    max_tokens=200,
)

print(response.choices[0].message.content)

使用不带 /chat/completions 的 base URL。SDK 会自行添加端点路径。

Node.js 配置

npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKUSE_API_KEY,
  baseURL: "https://tokuse.com/v1",
});

const response = await client.chat.completions.create({
  model: "deepseek-flash",
  messages: [
    {
      role: "user",
      content: "Summarize this support ticket in one sentence.",
    },
  ],
  max_tokens: 120,
});

console.log(response.choices[0].message.content);

把密钥保存在服务器端环境变量中。不要在浏览器包、移动应用或构建日志中暴露它。

按任务选择模型

优先使用 deepseek-flash 处理常规抽取、分类、摘要和高并发工作流步骤。对于复杂推理或长程任务,如果便宜路线无法通过评测,再测试 deepseek-v4-pro。

路由决策应基于任务成功完成,而不是模型名气。比较质量、输出长度、延迟、重试次数和每个成功任务的成本。

DeepSeek 的缓存命中定价让稳定的提示词尤为重要。其官方非高峰缓存命中价格为 $0.003/M,缓存未命中为 $0.15/M;在 Tokuse 上,当前基础 deepseek-flash 费率为输入 $0.274/M、输出 $1.096/M,缓存命中约为 $0.006/M。在选择预算前,请阅读完整的 DeepSeek 定价与缓存模型。

测试这些故障模式

401 或无效 token

确认密钥属于网关账户,且没有意外空白字符。如果密钥曾被提交或记录到日志,请轮换密钥。

chat completions 返回 404

同时检查 base URL 和 SDK 路径。https://tokuse.com/v1 是 base URL。除非你的 HTTP 客户端需要完整端点,否则不要追加 SDK 的 /chat/completions 路径。

不支持的模型

查询当前模型目录或仪表盘。模型别名可能因账户和可用性而异。试点期间可用的模型之后可能被停用。

429 或配额错误

加入带抖动的有界指数退避。不要无限重试。区分每分钟速率限制与账户余额或配额错误。

输出被截断

检查 finish_reason、输出 token 限制和请求的 schema。提高限制可能增加成本却不改善结果。两者都要测量。

流式传输失败

记录首 token 延迟和失败点。一旦 token 已到达用户,透明重试可能造成文本重复。优先选择可见错误或受控续写。

生产检查清单

  • 开发和生产使用不同的密钥。
  • 绝不在客户端代码中交付提供商或网关密钥。
  • 记录请求 ID、模型、状态、延迟、输入 token、输出 token 和重试次数。
  • 默认日志中隐去提示词、响应和授权请求头。
  • 固定模型别名,并在上线前测试变更。
  • 添加超时、重试预算和紧急停止开关。
  • 比较每个成功任务的成本,而不是每个请求的成本。
  • 先用小比例流量,并针对固定评测集衡量质量。

从一个端点开始

Tokuse 为评估多个 AI 模型的团队提供一个 OpenAI 兼容端点、模型目录、用量管理和管理仪表盘。从当前目录和测试密钥开始,然后先把一个低风险工作负载迁移到网关,再逐步扩展。

创建 Tokuse 账户并查看当前模型。

相关成本与迁移指南

来源