Avvio rapido API Dolphin modelos

URL Base e Autenticazione

L'API dei modelli Dolphin è un servizio compatibile con OpenAI. Imposta il tuo URL di base su https://api.dolphinmodelos.com/v1 e passa la tua chiave API nell' Authorization header. Usa l'ID del modello uncensored per l'inferenza. Questo garantisce la compatibilità con gli SDK standard senza logica di routing personalizzata.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

Invio di una richiesta di completamento

Invia un semplice prompt testuale per generare risposte. L'API accetta parametri standard come temperature e top_p. Ricevi output testuale puro senza wrapper inutili. Questo approccio diretto elimina la necessità di logica di parsing specifica per il modello.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Risposte in streaming con SSE

Abilita la generazione dei token in tempo reale utilizzando Server-Sent Events. L'ultimo chunk include le statistiche complete sull'utilizzo dei token per l'accuratezza della fatturazione. Lo streaming riduce la latenza percepita per gli output lunghi. Questo metodo è ideale per le applicazioni interattive che richiedono feedback immediato.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling e strumenti

Definisci gli strumenti per consentire al modello di eseguire azioni specifiche. Usa tool_choice per imporre l'utilizzo delle funzioni. L'API supporta definizioni standard degli strumenti e restituisce argomenti strutturati. Questo abilita flussi di lavoro complessi senza script di parsing esterni. Configura gli strumenti tramite il formato standard OpenAI per un'integrazione senza interruzioni.

Modalità JSON per output strutturati

Forza il modello a restituire JSON validi utilizzando response_format: {"type": "json_object"}. Questo garantisce strutture dati coerenti per l'elaborazione a valle. Ideale per le risposte API o per gli inserimenti nel database. Il modello aderisce allo schema senza aggiungere testo conversazionale.

Gestazione degli errori e limiti

La finestra di contesto è di 100.000 token in totale. Gestisci errori come 401 per chiavi non valide o 429 per i limiti di frequenza. L'API impone 300 richieste al minuto. Usa questi codici per gestire i tentativi in modo efficiente. Errori e rifiuti non consumano credito, proteggendo il tuo saldo durante le fasi di test.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);