如何透過 OpenAI 相容 API 使用 DeepSeek

By TokuseTokuse
AIAPIDeepSeek教學

DeepSeek 已經提供 OpenAI 風格的端點。真正的問題是:base URL 要放在哪裡、如何處理模型名稱,以及在生產流量切換前需要測試什麼。

試用 Tokuse: 建立免費帳戶 並透過一個 OpenAI 相容端點送出你的第一個請求。

本指南以 Tokuse 作為閘道範例,因為其公開模型目錄列出了 deepseek-flash 和 deepseek-v4-pro,並在以下位址提供 OpenAI 相容 API:

https://tokuse.com/v1

你帳戶顯示的模型集合、配額和價格可能變動。部署前請查看目前目錄。

OpenAI 相容代表什麼

相容代表現有的 OpenAI SDK 通常只需變更 base URL 和模型名稱即可送出請求。你的應用程式可以保留熟悉的用戶端結構:

SDK -> OpenAI-compatible base URL -> model alias -> provider

閘道接收請求、解析模型、附加供應商憑證,並傳回正規化回應。這樣供應商變更就不會進入產品程式碼。

相容並不代表每個供應商特有的參數都以相同方式運作。請用你計畫使用的確切 SDK 和模型測試串流輸出、工具呼叫、JSON 輸出、錯誤碼和 token 計費。

Python 設定

安裝 OpenAI SDK:

pip install openai

在伺服器上設定 Tokuse 金鑰:

export TOKUSE_API_KEY="YOUR_KEY"

然後使用標準的 chat completions 介面:

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKUSE_API_KEY"],
    base_url="https://tokuse.com/v1",
)

response = client.chat.completions.create(
    model="deepseek-flash",
    messages=[
        {
            "role": "system",
            "content": "Return a compact JSON object. Do not add commentary.",
        },
        {
            "role": "user",
            "content": "Extract the company name and plan from: Acme Pro, billed monthly.",
        },
    ],
    response_format={"type": "json_object"},
    max_tokens=200,
)

print(response.choices[0].message.content)

使用不帶 /chat/completions 的 base URL。SDK 會自行加入端點路徑。

Node.js 設定

npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKUSE_API_KEY,
  baseURL: "https://tokuse.com/v1",
});

const response = await client.chat.completions.create({
  model: "deepseek-flash",
  messages: [
    {
      role: "user",
      content: "Summarize this support ticket in one sentence.",
    },
  ],
  max_tokens: 120,
});

console.log(response.choices[0].message.content);

將金鑰保存在伺服器端環境變數中。不要在瀏覽器打包檔、行動應用程式或建置日誌中暴露它。

依任務選擇模型

優先使用 deepseek-flash 處理例行擷取、分類、摘要和高併發工作流程步驟。對於複雜推理或長程任務,如果便宜路線無法通過評測,再測試 deepseek-v4-pro。

路由決策應基於任務成功完成,而不是模型名氣。比較品質、輸出長度、延遲、重試次數和每個成功任務的成本。

DeepSeek 的快取命中定價讓穩定的提示詞格外重要。其官方離峰快取命中價格為 $0.003/M,快取未命中為 $0.15/M;在 Tokuse 上,目前基礎 deepseek-flash 費率為輸入 $0.274/M、輸出 $1.096/M,快取命中約為 $0.006/M。在選擇預算前,請閱讀完整的 DeepSeek 定價與快取模型。

測試這些故障模式

401 或無效 token

確認金鑰屬於閘道帳戶,且沒有意外空白字元。如果金鑰曾被提交或記錄到日誌,請輪換金鑰。

chat completions 傳回 404

同時檢查 base URL 和 SDK 路徑。https://tokuse.com/v1 是 base URL。除非你的 HTTP 用戶端需要完整端點,否則不要附加 SDK 的 /chat/completions 路徑。

不支援的模型

查詢目前模型目錄或儀表板。模型別名可能因帳戶和可用性而異。試辦期間可用的模型之後可能被停用。

429 或配額錯誤

加入帶抖動的有界指數退避。不要無限重試。區分每分鐘速率限制與帳戶餘額或配額錯誤。

輸出被截斷

檢查 finish_reason、輸出 token 限制和請求的 schema。提高限制可能增加成本卻不改善結果。兩者都要測量。

串流失敗

記錄首 token 延遲和失敗點。一旦 token 已到達使用者,透明重試可能造成文字重複。優先選擇可見錯誤或受控續寫。

生產檢查清單

  • 開發和生產使用不同的金鑰。
  • 絕不在用戶端程式碼中交付供應商或閘道金鑰。
  • 記錄請求 ID、模型、狀態、延遲、輸入 token、輸出 token 和重試次數。
  • 預設日誌中隱去提示詞、回應和授權標頭。
  • 固定模型別名,並在上線前測試變更。
  • 加入逾時、重試預算和緊急停止開關。
  • 比較每個成功任務的成本,而不是每個請求的成本。
  • 先用小比例流量,並針對固定評測集衡量品質。

從一個端點開始

Tokuse 為評估多個 AI 模型的團隊提供一個 OpenAI 相容端點、模型目錄、用量管理和管理儀表板。從目前目錄和測試金鑰開始,然後先把一個低風險工作負載遷移到閘道,再逐步擴展。

建立 Tokuse 帳戶並查看目前模型。

相關成本與遷移指南

來源