OpenAI 互換 API 経由で DeepSeek を使う方法

By TokuseTokuse
AIAPIDeepSeekチュートリアル

DeepSeek はすでに OpenAI 形式のエンドポイントを提供しています。実務上のポイントは、ベース URL をどこに置くか、モデル名をどう扱うか、そして本番トラフィックを移す前に何をテストするかです。

Tokuse を試す: 無料アカウントを作成 して、1 つの OpenAI 互換エンドポイントから最初のリクエストを送信してください。

このガイドでは、Tokuse をゲートウェイの例として使います。公開モデルカタログに deepseek-flash と deepseek-v4-pro が掲載され、次の OpenAI 互換 API を公開しているためです。

https://tokuse.com/v1

アカウントに表示されるモデル構成、クォータ、価格は変更されることがあります。デプロイ前に最新のカタログを確認してください。

OpenAI 互換とは何か

互換性とは、既存の OpenAI SDK でベース URL とモデル名を変更するだけで、通常はリクエストを送信できるという意味です。アプリケーションは慣れたクライアント構造をそのまま保てます。

SDK -> OpenAI-compatible base URL -> model alias -> provider

ゲートウェイはリクエストを受け取り、モデルを解決し、プロバイダーの認証情報を付与して、正規化されたレスポンスを返します。これにより、プロバイダーの変更をプロダクトコードの外に保てます。

互換性があっても、プロバイダー固有のすべてのパラメーターが同じように動くわけではありません。使用する SDK とモデルそのもので、ストリーミング、ツール呼び出し、JSON 出力、エラーコード、トークン計測をテストしてください。

Python でのセットアップ

OpenAI SDK をインストールします。

pip install openai

サーバーに Tokuse キーを設定します。

export TOKUSE_API_KEY="YOUR_KEY"

あとは通常の chat completions インターフェースを使います。

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKUSE_API_KEY"],
    base_url="https://tokuse.com/v1",
)

response = client.chat.completions.create(
    model="deepseek-flash",
    messages=[
        {
            "role": "system",
            "content": "Return a compact JSON object. Do not add commentary.",
        },
        {
            "role": "user",
            "content": "Extract the company name and plan from: Acme Pro, billed monthly.",
        },
    ],
    response_format={"type": "json_object"},
    max_tokens=200,
)

print(response.choices[0].message.content)

ベース URL に /chat/completions は含めないでください。エンドポイントのパスは SDK が自動で追加します。

Node.js でのセットアップ

npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKUSE_API_KEY,
  baseURL: "https://tokuse.com/v1",
});

const response = await client.chat.completions.create({
  model: "deepseek-flash",
  messages: [
    {
      role: "user",
      content: "Summarize this support ticket in one sentence.",
    },
  ],
  max_tokens: 120,
});

console.log(response.choices[0].message.content);

キーはサーバー側の環境変数に保管してください。ブラウザバンドル、モバイルアプリ、ビルドログに露出させないでください。

タスクに応じてモデルを選ぶ

定型の抽出、分類、要約、大量処理のワークフロー手順には、まず deepseek-flash を使ってください。複雑な推論や長期的なタスクで、安価なルートが評価に失敗する場合に deepseek-v4-pro を試します。

ルーティングの判断は、モデルの格ではなくタスクの成功に基づくべきです。品質、出力長、レイテンシ、リトライ、成功タスクあたりのコストを比較してください。

DeepSeek のキャッシュヒット価格を考えると、安定したプロンプトが特に重要です。公式のオフピーク料金はキャッシュヒットが $0.003/M、キャッシュミスが $0.15/M です。Tokuse の現在の基本 deepseek-flash 料金は入力 $0.274/M、出力 $1.096/M で、キャッシュヒットは約 $0.006/M です。予算を決める前に、DeepSeek の価格とキャッシュモデルを確認してください。

これらの障害モードをテストする

401 または無効なトークン

キーがゲートウェイのアカウントに属していること、余計な空白が入っていないことを確認します。コミットやログ出力の履歴がある場合はキーをローテーションしてください。

chat completions の 404

ベース URL と SDK のパスの両方を確認します。https://tokuse.com/v1 がベース URL です。HTTP クライアントが完全なエンドポイントを要求する場合を除き、SDK の /chat/completions パスを追加しないでください。

サポートされていないモデル

現在のモデルカタログまたはダッシュボードを確認します。モデルエイリアスはアカウントや提供状況によって異なる場合があります。パイロット時に動作したモデルが後で無効になることもあります。

429 またはクォータエラー

ジッター付きの上限のある指数バックオフを追加します。無期限にリトライしないでください。毎分のレート制限と、アカウント残高やクォータのエラーを区別します。

出力の切り詰め

finish_reason、出力トークン上限、要求したスキーマを確認します。上限を大きくすると、結果が良くならないままコストが増えることがあります。両方を測定してください。

ストリーミングの失敗

最初のトークンまでのレイテンシと失敗箇所を記録します。トークンがユーザーに届いた後に透過的にリトライすると、テキストが重複する可能性があります。目に見えるエラーか、制御された継続を選んでください。

本番運用チェックリスト

  • 開発用と本番用で別々のキーを使う。
  • プロバイダーやゲートウェイのキーをクライアントコードに含めない。
  • リクエスト ID、モデル、ステータス、レイテンシ、入力トークン、出力トークン、リトライ回数をログに記録する。
  • 既定のログからプロンプト、レスポンス、認証ヘッダーを伏せる。
  • モデルエイリアスを固定し、ロールアウト前に変更をテストする。
  • タイムアウト、リトライ予算、キルスイッチを用意する。
  • リクエストあたりのコストではなく、成功したタスクあたりのコストを比較する。
  • 少量のトラフィックから始め、固定の評価セットで品質を測定する。

まずは 1 つのエンドポイントから

Tokuse は、複数の AI モデルを評価するチーム向けに、OpenAI 互換エンドポイント 1 つ、モデルカタログ、利用量管理、管理ダッシュボードを提供します。まずは現在のカタログとテストキーから始め、リスクの低いワークロードを 1 つゲートウェイ経由に移してから広げてください。

Tokuse アカウントを作成して現在のモデルを確認する

関連するコストと移行ガイド

出典