Cách dùng DeepSeek qua API tương thích OpenAI

By TokuseTokuse
AIAPIDeepSeekHướng dẫn

DeepSeek đã cung cấp endpoint theo kiểu OpenAI. Câu hỏi thực tế là giữ URL gốc ở đâu, xử lý tên model thế nào và cần kiểm tra gì trước khi chuyển lưu lượng production.

Dùng thử Tokuse: tạo tài khoản miễn phí và gửi yêu cầu đầu tiên qua một endpoint tương thích OpenAI duy nhất.

Hướng dẫn này dùng Tokuse làm ví dụ về gateway vì danh mục model công khai có deepseek-flash và deepseek-v4-pro, đồng thời cung cấp API tương thích OpenAI tại:

https://tokuse.com/v1

Bộ model, hạn mức và giá hiển thị cho tài khoản của bạn có thể thay đổi. Kiểm tra danh mục hiện tại trước khi triển khai.

Tương thích OpenAI nghĩa là gì

Tương thích nghĩa là các SDK OpenAI hiện có thường có thể gửi yêu cầu chỉ bằng cách đổi URL gốc và tên model. Ứng dụng của bạn vẫn giữ được cấu trúc client quen thuộc:

SDK -> OpenAI-compatible base URL -> model alias -> provider

Gateway nhận yêu cầu, phân giải model, gắn thông tin xác thực của nhà cung cấp và trả về phản hồi đã chuẩn hóa. Nhờ vậy, thay đổi nhà cung cấp nằm ngoài mã sản phẩm.

Tương thích không có nghĩa là mọi tham số riêng của nhà cung cấp đều hoạt động giống nhau. Hãy kiểm tra streaming, gọi công cụ, đầu ra JSON, mã lỗi và cách tính token với đúng SDK và model bạn định dùng.

Thiết lập Python

Cài SDK OpenAI:

pip install openai

Đặt khóa Tokuse trên server:

export TOKUSE_API_KEY="YOUR_KEY"

Sau đó dùng giao diện chat completions quen thuộc:

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKUSE_API_KEY"],
    base_url="https://tokuse.com/v1",
)

response = client.chat.completions.create(
    model="deepseek-flash",
    messages=[
        {
            "role": "system",
            "content": "Return a compact JSON object. Do not add commentary.",
        },
        {
            "role": "user",
            "content": "Extract the company name and plan from: Acme Pro, billed monthly.",
        },
    ],
    response_format={"type": "json_object"},
    max_tokens=200,
)

print(response.choices[0].message.content)

Dùng URL gốc không kèm /chat/completions. SDK tự thêm đường dẫn endpoint.

Thiết lập Node.js

npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKUSE_API_KEY,
  baseURL: "https://tokuse.com/v1",
});

const response = await client.chat.completions.create({
  model: "deepseek-flash",
  messages: [
    {
      role: "user",
      content: "Summarize this support ticket in one sentence.",
    },
  ],
  max_tokens: 120,
});

console.log(response.choices[0].message.content);

Giữ khóa trong biến môi trường phía server. Không để lộ trong bundle trình duyệt, ứng dụng di động hoặc log build.

Chọn model theo tác vụ

Dùng deepseek-flash trước cho trích xuất thường ngày, phân loại, tóm tắt và các bước quy trình khối lượng lớn. Thử deepseek-v4-pro trên các tác vụ lý luận phức tạp hoặc tầm xa khi tuyến rẻ hơn không vượt qua đánh giá của bạn.

Quyết định định tuyến nên dựa trên việc hoàn thành tác vụ thành công, không dựa trên danh tiếng model. So sánh chất lượng, độ dài đầu ra, độ trễ, số lần thử lại và chi phí trên mỗi tác vụ thành công.

Giá cache hit của DeepSeek khiến prompt ổn định trở nên đặc biệt quan trọng. Mức giá chính thức ngoài giờ cao điểm là $0.003/M cho cache hit so với $0.15/M cho cache miss; trên Tokuse, mức giá cơ bản hiện tại của deepseek-flash là $0.274/M đầu vào và $1.096/M đầu ra, với cache hit khoảng $0.006/M. Xem mô hình giá và cache đầy đủ của DeepSeek trước khi chọn ngân sách.

Kiểm tra các kiểu lỗi này

401 hoặc token không hợp lệ

Xác nhận khóa thuộc tài khoản gateway và không có khoảng trắng thừa. Xoay khóa nếu khóa từng bị commit hoặc ghi vào log.

404 khi gọi chat completions

Kiểm tra cả URL gốc và đường dẫn SDK. https://tokuse.com/v1 là URL gốc. Không thêm đường dẫn /chat/completions của SDK trừ khi client HTTP của bạn cần một endpoint đầy đủ.

Model không được hỗ trợ

Tra cứu danh mục model hiện tại hoặc dashboard. Alias model có thể khác nhau theo tài khoản và tình trạng cung cấp. Một model từng hoạt động trong giai đoạn thử nghiệm có thể bị vô hiệu hóa sau này.

429 hoặc lỗi hạn mức

Thêm backoff lũy thừa có giới hạn kèm jitter. Không thử lại vô hạn. Phân biệt giới hạn theo phút với lỗi số dư tài khoản hoặc hạn mức.

Đầu ra bị cắt

Kiểm tra finish_reason, giới hạn token đầu ra và schema đã yêu cầu. Giới hạn lớn hơn có thể tăng chi phí mà không cải thiện kết quả. Hãy đo cả hai.

Lỗi streaming

Ghi lại độ trễ token đầu tiên và điểm thất bại. Khi token đã đến tay người dùng, một lần thử lại minh bạch có thể làm lặp văn bản. Ưu tiên lỗi hiển thị rõ hoặc tiếp tục có kiểm soát.

Danh sách kiểm tra production

  • Dùng khóa riêng cho phát triển và production.
  • Không đưa khóa nhà cung cấp hoặc gateway vào mã client.
  • Ghi log ID yêu cầu, model, trạng thái, độ trễ, token đầu vào, token đầu ra và số lần thử lại.
  • Che prompt, phản hồi và header ủy quyền khỏi log mặc định.
  • Ghim alias model và kiểm tra thay đổi trước khi rollout.
  • Thêm timeout, ngân sách thử lại và công tắc dừng khẩn cấp.
  • So sánh chi phí trên mỗi tác vụ thành công, không phải chi phí mỗi yêu cầu.
  • Bắt đầu với tỷ lệ nhỏ lưu lượng và đo chất lượng bằng bộ đánh giá cố định.

Bắt đầu với một endpoint

Tokuse cung cấp một endpoint tương thích OpenAI, danh mục model, quản lý mức sử dụng và dashboard quản trị cho các đội đang đánh giá nhiều model AI. Bắt đầu với danh mục hiện tại và một khóa thử nghiệm, sau đó đưa một khối lượng công việc ít rủi ro qua gateway trước khi mở rộng.

Tạo tài khoản Tokuse và xem các model hiện tại

Hướng dẫn liên quan về chi phí và chuyển đổi

Nguồn