Szybki start API Dolphin modelos

Bazowy URL i autoryzacja

API modeli Dolphin to usługa kompatybilna z OpenAI. Ustaw swój bazowy adres URL na https://api.dolphinmodelos.com/v1 i przekaż swój klucz API w Authorization Nagłówek. Użyj identyfikatora modelu uncensored dla wnioskowania. To zapewnia kompatybilność ze standardowymi SDK bez niestandardowej logiki routingu.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

Wysyłanie Completion

Wyślij prosty prompt tekstowy, aby wygenerować odpowiedzi. API akceptuje standardowe parametry takie jak temperature i top_p. Otrzymujesz czysty output tekstowy bez niepotrzebnych otoczek. To bezpośrednie podejście eliminuje potrzebę logiki parsowania specyficznej dla modelu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Odpowiedzi strumieniowe z SSE

Włącz generowanie tokenów w czasie rzeczywistym za pomocą zdarzeń wysyłanych przez serwer (SSE). Ostatni fragment zawiera pełne statystyki zużycia tokenów dla dokładności rozliczeń. Strumieniowanie zmniejsza postrzeganą latencję dla długich outputów. Metoda ta jest idealna dla aplikacji interaktywnych wymagających natychmiastowej informacji zwrotnej.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Wywoływanie funkcji i narzędzia

Zdefiniuj narzędzia, aby umożliwić modelowi wykonywanie określonych akcji. Użyj tool_choice do wymuszenia użycia funkcji. API obsługuje standardowe definicje narzędzi i zwraca strukturalne argumenty. Umożliwia to złożone przepływy pracy bez zewnętrznych skryptów parsujących. Skonfiguruj narzędzia w standardowym formacie OpenAI dla bezproblemowej integracji.

Tryb JSON dla danych wyjściowych strukturalnych

Wymuszaj na modelu zwracanie poprawnych danych JSON za pomocą response_format: {"type": "json_object"}. To zapewnia spójne struktury danych do przetwarzania dalszego. Idealne do odpowiedzi API lub wstawiania do bazy danych. Model przestrzega schematu bez dodawania konwersacyjnego tekstu uzupełniającego.

Obsługa błędów i limity

Okno kontekstowe wynosi łącznie 100 000 tokenów. Obsłuż błędy takie jak 401 dla nieprawidłowych kluczy lub 429 dla limitów szybkości. API narzuca limit 300 żądań na minutę. Użyj tych kodów do efektywnego zarządzania ponownymi próbami. Błędy i odrzucenia nie zużywają kredytu, chroniąc Twój balans podczas faz testowych.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);