Rychlý start API Dolphin modelos

Základní URL a ověření

API modelu Dolphin je služba kompatibilní s OpenAI. Nastavte svou základní URL na https://api.dolphinmodelos.com/v1 a předat API klíč v Authorization hlavička. Použijte ID modelu uncensored pro inferenci. To zajišťuje kompatibilitu se standardními SDK bez vlastní logiky směrování.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

Odesílání požadavku na dokončení textu

Odeslejte jednoduchý textový podnět pro generování odpovědí. API přijímá standardní parametry jako temperature a top_p. Získáte čistý textový výstup bez zbytečných obalů. Tento přímý přístup eliminuje potřebu modelově specifické logiky pro parsování.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamované odpovědi s SSE

Povolte generování tokenů v reálném čatu pomocí Server-Sent Events. Poslední část obsahuje kompletní statistiky využití tokenů pro přesnou fakturaci. Streamování snižuje vnímanou latenci pro dlouhé výstupy. Tato metoda je ideální pro interaktivní aplikace vyžadující okamžitou zpětnou vazbu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Volání funkcí a nástroje

Definujte nástroje, aby model mohl vykonávat konkrétní akce. Použijte tool_choice pro vynucení používání funkcí. API podporuje standardní definice nástrojů a vrací strukturované argumenty. To umožňuje složité pracovní postupy bez externích skriptů pro parsování. Nakonfigurujte nástroje pomocí standardního formátu OpenAI pro bezproblémovou integraci.

Režim JSON pro strukturovaný výstup

Vynutit na modelu vrácení platného JSON pomocí response_format: {"type": "json_object"}. To zajišťuje konzistentné datové struktury pro zpracování v downstreamu. Ideální pro odpovědi API nebo vložení do databáze. Model se řídí schématem bez přidávání konverzačních doplňkových textů.

Zpracování chyb a limity

Okno kontextu má celkem 100 000 tokenů. Řiďte chyby jako 401 pro neplatné klíče nebo 429 pro limity rychlosti. API vynucuje 300 požadavků za minutu. Použijte tyto kódy k efektivnímu řízení opakování. Chyby a odmítnutí nespotřebovávají kredit, což chrání váš zůstatek během fází testování.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);