Швидкий старт API Dolphin modelos

Базова URL-адреса та аутентифікація

API моделей Dolphin — це сервіс, сумісний з OpenAI. Встановіть свою базову URL-адресу на https://api.dolphinmodelos.com/v1 і передайте свій API-ключ у Authorization header. Використовуйте ідентифікатор моделі uncensored для висновку. Це забезпечує сумісність зі стандартними SDK без власної логіки маршрутизації.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

Надсилання запиту на завершення

Надішліть простий текстовий запит для генерації відповідей. API приймає стандартні параметри, такі як temperature та top_p. Ви отримуєте чистий текстовий вивід без зайвих обгорток. Цей прямий підхід усуває необхідність у логіці парсингу, специфічній для моделі.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокові відповіді з SSE

Увімкніть миттєву генерацію токенів за допомогою подій, надсиланих сервером. Останній фрагмент містить повну статистику використання токенів для точності билінгу. Потокова передача зменшує сприйнятну затримку для довгих виводів. Цей метод ідеально підходить для інтерактивних додатків, які вимагають миттєвого зворотного зв'язку.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling та інструменти

Визначте інструменти, щоб дозволити моделі виконувати конкретні дії. Використовуйте tool_choice для примусового використання функцій. API підтримує стандартні визначення інструментів і повертає структуровані аргументи. Це дозволяє створювати складні робочі процеси без зовнішніх скриптів парсингу. Налаштуйте інструменти через стандартний формат OpenAI для безперешкодної інтеграції.

Режим JSON для структурованого виводу

Змушуйте модель повертати валідний JSON за допомогою response_format: {"type": "json_object"}. Це забезпечує послідовні структури даних для подальшої обробки. Ідеально підходить для відповідей API або вставок у базу даних. Модель дотримується схеми, не додаючи розмовних заповнювачів.

Обробка помилок та обмеження

Розмір контекстного вікна становить 100 000 токенів загалом. Обробляйте помилки, такі як 401 для недійсних ключів або 429 для перевищення лімітів швидкості. API обмежує кількість до 300 запитів на хвилину. Використовуйте ці коди для ефективного повторного спробування. Помилки та відмови не списують кредити, захищаючи ваш баланс під час тестування.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);