如何通过 OpenAI 兼容 API 使用 DeepSeek
DeepSeek 已经提供 OpenAI 风格的端点。真正的问题是:base URL 放在哪里、如何处理模型名称,以及在生产流量切换前需要测试什么。
试用 Tokuse: 创建免费账户 并通过一个 OpenAI 兼容端点发送你的第一个请求。
本指南以 Tokuse 作为网关示例,因为其公开模型目录列出了 deepseek-flash 和 deepseek-v4-pro,并在以下地址提供 OpenAI 兼容 API:
https://tokuse.com/v1
你账户显示的模型集合、配额和价格可能变化。部署前请查看当前目录。
OpenAI 兼容意味着什么
兼容意味着现有的 OpenAI SDK 通常只需更改 base URL 和模型名称即可发送请求。你的应用可以保留熟悉的客户端结构:
SDK -> OpenAI-compatible base URL -> model alias -> provider
网关接收请求、解析模型、附加提供商凭证,并返回规范化响应。这样提供商变更就不会进入产品代码。
兼容并不意味着每个提供商特有的参数都以相同方式工作。请用你计划使用的确切 SDK 和模型测试流式输出、工具调用、JSON 输出、错误码和 token 计费。
Python 配置
安装 OpenAI SDK:
pip install openai
在服务器上设置 Tokuse 密钥:
export TOKUSE_API_KEY="YOUR_KEY"
然后使用标准的 chat completions 接口:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKUSE_API_KEY"],
base_url="https://tokuse.com/v1",
)
response = client.chat.completions.create(
model="deepseek-flash",
messages=[
{
"role": "system",
"content": "Return a compact JSON object. Do not add commentary.",
},
{
"role": "user",
"content": "Extract the company name and plan from: Acme Pro, billed monthly.",
},
],
response_format={"type": "json_object"},
max_tokens=200,
)
print(response.choices[0].message.content)
使用不带 /chat/completions 的 base URL。SDK 会自行添加端点路径。
Node.js 配置
npm install openai
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.TOKUSE_API_KEY,
baseURL: "https://tokuse.com/v1",
});
const response = await client.chat.completions.create({
model: "deepseek-flash",
messages: [
{
role: "user",
content: "Summarize this support ticket in one sentence.",
},
],
max_tokens: 120,
});
console.log(response.choices[0].message.content);
把密钥保存在服务器端环境变量中。不要在浏览器包、移动应用或构建日志中暴露它。
按任务选择模型
优先使用 deepseek-flash 处理常规抽取、分类、摘要和高并发工作流步骤。对于复杂推理或长程任务,如果便宜路线无法通过评测,再测试 deepseek-v4-pro。
路由决策应基于任务成功完成,而不是模型名气。比较质量、输出长度、延迟、重试次数和每个成功任务的成本。
DeepSeek 的缓存命中定价让稳定的提示词尤为重要。其官方非高峰缓存命中价格为 $0.003/M,缓存未命中为 $0.15/M;在 Tokuse 上,当前基础 deepseek-flash 费率为输入 $0.274/M、输出 $1.096/M,缓存命中约为 $0.006/M。在选择预算前,请阅读完整的 DeepSeek 定价与缓存模型。
测试这些故障模式
401 或无效 token
确认密钥属于网关账户,且没有意外空白字符。如果密钥曾被提交或记录到日志,请轮换密钥。
chat completions 返回 404
同时检查 base URL 和 SDK 路径。https://tokuse.com/v1 是 base URL。除非你的 HTTP 客户端需要完整端点,否则不要追加 SDK 的 /chat/completions 路径。
不支持的模型
查询当前模型目录或仪表盘。模型别名可能因账户和可用性而异。试点期间可用的模型之后可能被停用。
429 或配额错误
加入带抖动的有界指数退避。不要无限重试。区分每分钟速率限制与账户余额或配额错误。
输出被截断
检查 finish_reason、输出 token 限制和请求的 schema。提高限制可能增加成本却不改善结果。两者都要测量。
流式传输失败
记录首 token 延迟和失败点。一旦 token 已到达用户,透明重试可能造成文本重复。优先选择可见错误或受控续写。
生产检查清单
- 开发和生产使用不同的密钥。
- 绝不在客户端代码中交付提供商或网关密钥。
- 记录请求 ID、模型、状态、延迟、输入 token、输出 token 和重试次数。
- 默认日志中隐去提示词、响应和授权请求头。
- 固定模型别名,并在上线前测试变更。
- 添加超时、重试预算和紧急停止开关。
- 比较每个成功任务的成本,而不是每个请求的成本。
- 先用小比例流量,并针对固定评测集衡量质量。
从一个端点开始
Tokuse 为评估多个 AI 模型的团队提供一个 OpenAI 兼容端点、模型目录、用量管理和管理仪表盘。从当前目录和测试密钥开始,然后先把一个低风险工作负载迁移到网关,再逐步扩展。