Hướng dẫn nhanh API Dolphin modelos

Base URL và Xác thực

API mô hình Dolphin là một dịch vụ tương thích OpenAI. Đặt URL cơ sở của bạn thành https://api.dolphinmodelos.com/v1 và chuyển khóa API của bạn trong Authorization header. Sử dụng ID mô hình uncensored cho suy luận. Điều này đảm bảo tương thích với các SDK tiêu chuẩn mà không cần logic định tuyến tùy chỉnh.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

Gửi Yêu cầu Hoàn thành

Gửi một lệnh nhắc văn bản đơn giản để tạo phản hồi. API chấp nhận các tham số tiêu chuẩn như temperature và top_p. Bạn nhận được đầu ra văn bản thuần túy mà không có các lớp bọc không cần thiết. Cách tiếp cận trực tiếp này loại bỏ nhu cầu về logic phân tích cú pháp cụ thể cho mô hình.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phản hồi luồng với SSE

Bật tạo token theo thời gian thực sử dụng Sự kiện được gửi bởi máy chủ. Chunk cuối cùng bao gồm thống kê sử dụng token đầy đủ để đảm bảo tính chính xác khi tính phí. Việc phát trực tiếp giảm độ trễ cảm nhận đối với các đầu ra dài. Phương pháp này lý tưởng cho các ứng dụng tương tác yêu cầu phản hồi ngay lập tức.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling và các công cụ

Định nghĩa các công cụ để cho phép mô hình thực hiện các hành động cụ thể. Sử dụng tool_choice để bắt buộc sử dụng hàm. API hỗ trợ các định nghĩa công cụ tiêu chuẩn và trả về các đối số có cấu trúc. Điều này cho phép các quy trình làm việc phức tạp mà không cần các tập lệnh phân tích bên ngoài. Cấu hình công cụ qua định dạng OpenAI tiêu chuẩn để tích hợp liền mạch.

Chế độ JSON cho đầu ra có cấu trúc

Buộc mô hình trả về JSON hợp lệ bằng cách sử dụng response_format: {"type": "json_object"}. Điều này đảm bảo các cấu trúc dữ liệu nhất quán cho việc xử lý ở tầng dưới. Lý tưởng cho phản hồi API hoặc chèn cơ sở dữ liệu. Mô hình tuân thủ schema mà không thêm văn bản hội thoại thừa.

Xử lý lỗi và Giới hạn

Kích thước cửa sổ ngữ cảnh là 100.000 token tổng cộng. Xử lý các lỗi như 401 cho khóa không hợp lệ hoặc 429 cho giới hạn tốc độ. API áp dụng giới hạn 300 yêu cầu mỗi phút. Sử dụng các mã này để quản lý việc thử lại hiệu quả. Lỗi và từ chối không tiêu thụ tín dụng, bảo vệ số dư của bạn trong các giai đoạn thử nghiệm.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);