Produktions-Checkliste für Dolphin ai

1. Überprüfen Sie die Kompatibilität der OpenAI-kompatiblen Endpunkte

Stellen Sie zunächst sicher, dass die Endpunkt-Struktur dem Standardformat von OpenAI chat-completions entspricht. Unsere API hält sich strikt an dieses Schema, sodass Sie vorhandene SDKs verwenden können, ohne benutzerdefinierte Wrapper schreiben zu müssen. Die Basis-URL ist HTTPS://api.dolphinmodelos.com/v1, und Sie müssen die Modell-ID in jeder Anfrage auf "uncensored" setzen. Dies stellt sicher, dass Sie die dedizierte Inference-Engine für unzensierte Modelle und keinen aggregierten Router treffen.

• Verwenden Sie die offiziellen OpenAI Python- oder Node.js-SDKs.
• Überschreiben Sie die Basis-URL, um auf unseren Endpunkt zu verweisen.
• Übergeben Sie Ihren API-Schlüssel im Authorization-Header.

Dieser Ansatz eliminiert die Notwendigkeit herstellerspezifischer Logik. Sie verbinden sich direkt mit einem unzensierten Large Language Model. Die Antwort folgt der Standard-JSON-Struktur. Keine versteckte Routing-Logik oder proprietären Felder werden Ihren Parser beschädigen.

Überprüfen Sie die Base URL, bevor Sie skalieren. Eine einzelne Zeichenänderung kann Ihre Integration brechen.

Diese Kompatibilität bedeutet, dass Sie später andere Modelle einfügen können, wenn dies erforderlich ist, aber derzeit erhalten Sie reine, unzensierte Inferenz. Der Endpunkt ist für Entwickler konzipiert, die vorhersagbare, schemakonforme Antworten wünschen. Er bietet keine Embeddings oder Bildgenerierung, daher konzentrieren Sie sich auf Text in Ihrer Payload.

Prüfen Sie den GET /v1/models-Endpunkt, um zu bestätigen, dass die Model-ID als "uncensored" aufgeführt ist. Dies ist Ihre primäre Ankerstelle für alle nachfolgenden Aufrufe.

2. Robuste Streaming-Fehlerbehandlung implementieren

Stream-Fehler sind die häufigste Fehlerquelle bei LLM-Integrationen in der Produktion. Sie müssen den Server-Sent-Events-(SSE)-Stream sorgfältig behandeln. Der letzte Chunk enthält die Token-Nutzungsdaten, aber Fehler können auch in früheren Chunks auftreten.

• Lauschen Sie dem "error"-Ereignistyp.
• Analysieren Sie das letzte Chunk auf Nutzungsstatistiken.
• Behandeln Sie Netzwerk-Timeouts graceful.

Gehen Sie nicht davon aus, dass der Stream immer erfolgreich abgeschlossen wird. Ein 500-Fehler kann den Stream unterbrechen. Ihr Code sollte entsprechend erneut versuchen oder den Benutzer alarmieren.

Streaming über SSE ermöglicht eine geringere Latenz, erfordert jedoch eine robuste Fehlerbehandlung. Wenn die Verbindung abbricht, gehen die Teilantworten verloren. Speichern Sie den letzten bekannten Zustand vor dem Wiederherstellen der Verbindung. Dies ist entscheidend für unzensierte Modelle, die längere oder vielfältigere Ausgaben generieren können.

Ignoriere niemals den letzten Chunk. Er enthält die abrechenbare Token-Anzahl.

Implementieren Sie ein Timeout von 30 Sekunden für jedes Segment. Wenn ein Segment länger dauert, nehmen Sie an, dass die Verbindung tot ist. Dies verhindert, dass Ihre Anwendung unbegrenzt hängt. Die API garantiert keine bestimmte Latenz, also bauen Sie Resilienz ein.

Verwenden Sie die offiziellen SDKs, die die meisten Dinge automatisch erledigen. Wenn Sie jedoch reine HTTP-Aufrufe schreiben, analysieren Sie das SSE-Format manuell. Achten Sie auf das "data:"-Präfix und analysieren Sie das JSON.

3. Kontextfenster und Token-Limits verwalten

Das Context-Window ist auf 100.000 Tokens für Prompt und Completion zusammen begrenzt. Dies ist ein Hard-Limit für das uncensored-Modell. Wenn Ihre Eingabe dieses Limit überschreitet, gibt die API einen Fehler zurück.

• Berechnen Sie die Token-Anzahlen, bevor Sie senden.
• Überwachen Sie die Prompt-Länge sorgfältig.
• Legen Sie ein max_tokens-Limit für die Ausgabe fest.

Die maximale Ausgabe pro Anfrage beträgt 16.000 Tokens. Wenn Sie max_tokens nicht festlegen, beträgt der Standardwert 2.048 Tokens. Dies ist ein sicherer Standardwert für die meisten Anwendungsfälle.

Für längere Texte müssen Sie dieses Limit jedoch erhöhen. Beachten Sie, dass längere Ausgaben mehr Guthaben verbrauchen. Der Preis beträgt 0,15 $ pro 1M Input-Token und 0,50 $ pro 1M Output-Token. Diese Preisgestaltung ist transparent und vorhersehbar.

Berechnen Sie Ihre Token-Nutzung, bevor Sie große Prompts senden. Ein Prompt mit 50k Tokens lässt nur noch 50k für die Ausgabe übrig.

Dieses Gleichgewicht ist entscheidend für die Aufrechterhaltung der Servicequalität. Wenn Sie mehr Kontext benötigen, erwägen Sie das Chunking Ihrer Eingabe. Verlassen Sie sich nicht darauf, dass die API automatisch abschneidet. Sie wird einen Fehler ausgeben, wenn Sie das Limit überschreiten.

Dieses Limit gilt für die Gesamtzahl der Token, nicht nur für die Zeichen. Verwenden Sie eine Tokenizer-Bibliothek, um eine genaue Anzahl zu erhalten. Dies stellt sicher, dass Sie innerhalb des Budgets und der Leistungsgrenzen bleiben.

4. Funktion-Aufruf für Tool-Nutzung konfigurieren

Function Calling ermöglicht es Ihrer Anwendung, über das LLM mit externen APIs zu interagieren. Die API unterstützt die Parameter tools und tool_choice. Dies ist entscheidend für den Aufbau agenter Workflows.

• Definieren Sie Ihre Funktionsschemas in der Anfrage.
• Legen Sie tool_choice auf "auto" oder "required" fest.
• Analysieren Sie die Funktionsaufrufargumente sorgfältig.

Das unzensierte Modell ist darauf abgestimmt, Anweisungen präzise zu befolgen. Das bedeutet, dass es eine gültige Tool-Ausführung selten ablehnt. Sie müssen die Ausgabe jedoch validieren. Das Modell kann leicht fehlerhaftes JSON generieren.

Validieren Sie stets die Funktionsargumente vor der Ausführung. Dies verhindert Fehler in Ihren nachgelagerten Diensten. Die API gibt den Funktionsaufruf im Standard-OpenAI-Format zurück. Sie können dies mit den offiziellen SDKs parsen.

Teste Function Calling mit Edge Cases. Das Modell kann Argumente erfinden, wenn es nicht eingeschränkt ist.

Dies ist eine Eigenschaft unzensierter Modelle. Sie sind flexibler, erfordern jedoch mehr Validierung. Stellen Sie die Temperatur auf einen niedrigeren Wert für konsistente Tool-Nutzung. Dies reduziert die Wahrscheinlichkeit von halluzinierten Argumenten.

Verwenden Sie den JSON-Modus für noch strengere Ausgabe-Einschränkungen. Dies stellt sicher, dass das Modell nur gültiges JSON zurückgibt. Dies ist eine leistungsstarke Kombination für zuverlässige Automatisierung.

5. JSON-Modus-Einschränkungen validieren

Der JSON-Modus stellt sicher, dass das Modell ein gültiges JSON-Objekt zurückgibt. Dies ist kritisch für das Parsen der Antwort in Ihrem Code. Legen Sie den Parameter response_format auf {"type": "json_object"} fest.

• Aktivieren Sie den JSON-Modus für strukturierte Daten.
• Stellen Sie die Ausgabe vor dem Parsing sicher.
• Behandeln Sie Parsing-Fehler graceful.

Das unzensierte Modell respektiert diese Einschränkung gut. Es fügt kein Markdown oder zusätzlichen Text außerhalb des JSON hinzu. Dies macht das Parsing zuverlässig und schnell.

Jedoch kann der JSON-Modus die Kreativität des Modells manchmal verringern. Er zwingt das Modell, innerhalb des Schemas zu bleiben. Dies ist ein Kompromiss, den Sie berücksichtigen müssen. Für die strenge Datenextraktion ist er ideal. Für kreatives Schreiben kann er sich einschränkend anfühlen.

Validieren Sie das JSON stets vor der Verwendung. Ein einzelner Syntaxfehler kann Ihre App zerstören.

Verwenden Sie einen JSON-Validator in Ihrer Pipeline. Dies fängt Fehler frühzeitig ab. Die API garantiert keine perfekte JSON-Struktur, ist aber hochzuverlässig.

Kombinieren Sie den JSON-Modus mit dem Funktionsaufruf für maximale Präzision. Dies stellt sicher, dass das Modell genau das zurückgibt, was Sie erwarten. Es ist ein leistungsstarkes Werkzeug zum Erstellen zuverlässiger KI-Anwendungen.

6. Überwachen Sie Ratenlimits und Parallelität

Die API erzwingt strenge Rate-Limits, um eine faire Nutzung zu gewährleisten. Sie sind auf 300 Anfragen pro Minute pro Schlüssel beschränkt. Zusätzlich können Sie 8 gleichzeitige Anfragen gleichzeitig haben.

• Überwachen Sie Ihre Anfrageanzahl pro Minute.
• Begrenzen Sie gleichzeitige Anfragen auf 8.
• Behandeln Sie 429-Fehler (Too Many Requests).

Wenn Sie diese Grenzen überschreiten, gibt die API einen 429-Fehler zurück. Sie sollten exponentielles Backoff in Ihrer Wiederholungslogik implementieren.

Dies ist entscheidend für Produktionssysteme. Ein plötzlicher Traffic-Anstieg kann Ihre Anwendung überlasten, wenn er nicht verwaltet wird. Die Begrenzung des Request-Body auf 8 MB ist ebenfalls wichtig. Große Payloads können dieses Limit schnell erreichen.

Implementieren Sie einen Circuit Breaker für Rate-Limit-Fehler. Dies verhindert kaskadierende Ausfälle.

Dies stellt sicher, dass Ihre Anwendung stabil bleibt. Die API bietet keine Burst-Zulassungen, planen Sie Ihren Datenverkehr entsprechend.

Verwenden Sie einen einzelnen API-Schlüssel pro Konto. Wenn Sie mehr Parallelität benötigen, können Sie einen neuen Schlüssel generieren, der jedoch den alten ersetzt. Dies ist eine einfache, aber effektive Begrenzung. Überwachen Sie Ihre Nutzung über den letzten Chunk des Streams. Dies gibt Ihnen Echtzeit-Feedback zu Ihrem Token-Verbrauch.

7. Ensure Content Policy Alignment

Das unzensierte Modell lehnt die meisten erwachsenen oder kontroversen Themen nicht ab. Es gibt jedoch eine harte Grenze: sexueller Inhalt, der Minderjährige betrifft. Dies wird immer durchgesetzt.

• Prüfen Sie auf minderbezogene Inhalte in Ihren Prompts.
• Erwarten Sie keine Ablehnungen für andere erwachsene Themen.
• Ausgabe für Ihren spezifischen Anwendungsfall validieren.

Dies macht das Modell ideal für kreatives Schreiben und Adult-Content. Sie müssen sich keine Sorgen über plötzliche Ablehnungen machen.

Jedoch bedeutet „unzensiert“ nicht „ungefiltert“. Das Modell kann weiterhin Inhalte von geringer Qualität oder irrelevant generieren. Möglicherweise müssen Sie die Ausgabe nachbearbeiten.

Definieren Sie Ihre eigenen Inhaltsgrenzen. Die API setzt nur die geringfügige Grenze durch.

Dies gibt Ihnen Flexibilität, aber auch Verantwortung. Validieren Sie die Ausgabe für Ihr Zielpublikum. Verwenden Sie bei Bedarf einen einfachen Schlüsselwortfilter.

Das Modell ist für die rechtmäßige Nutzung durch Erwachsene optimiert. Es garantiert nicht die Eignung für Kinder. Klären Sie Ihr Zielpublikum. So vermeiden Sie unerwartete Beschwerden. Die API ist für Entwickler konzipiert, die genau wissen, was sie wollen.

8. Optimize Prompt Structure for Length

Die Prompt-Struktur beeinflusst sowohl die Leistung als auch die Kosten. Lange Prompts verbrauchen mehr Tokens und erhöhen die Latenz. Teilen Sie Ihre Prompts nach Möglichkeit in kleinere Blöcke auf.

• Halten Sie System-Prompts knapp.
• Verwenden Sie Few-Shot-Beispiele sparsam.
• Entfernen Sie unnötige Leerzeichen.

Das unzensierte Modell verarbeitet lange Eingaben gut, aber Sie sind durch das 100k-Token-Fenster begrenzt. Planen Sie Ihren Token-Budget sorgfältig.

Verwenden Sie den temperature-Parameter, um die Kreativität zu steuern. Eine niedrigere Temperatur erzeugt deterministischere Ausgaben. Dies ist nützlich für Function Calling und den JSON-Modus.

Testen Sie verschiedene Prompt-Strukturen. Kleine Änderungen können die Ausgabequalität erheblich verbessern.

Dies ist ein wesentlicher Bestandteil des Prompt-Engineerings. Das Modell ist flexibel, benötigt jedoch klare Anweisungen. Geben Sie Kontext und Beispiele an, um das Modell zu führen.

Überwachen Sie die Token-Nutzung in jeder Anfrage. Dies hilft Ihnen, ineffiziente Prompts zu identifizieren. Optimieren Sie für Geschwindigkeit und Kosten. Die API-Preise sind transparent, sodass Sie die genauen Kosten jedes Prompts berechnen können. Dies ermöglicht eine effiziente Skalierung.

9. Testen Sie mit repräsentativen unzensierten Prompts

Testing is the final step before deployment. Use prompts that reflect your actual use cases. Test for both standard and edge cases.

• Senden Sie eine Vielzahl von Eingabeaufforderungen.
• Prüfen Sie auf Konsistenz in den Antworten.
• Fehlerbehandlung validieren.

Das unzensierte Modell sollte eine breite Palette von Themen verarbeiten. Testen Sie mit kontroversen oder erwachsenen Themen, um sicherzustellen, dass keine Ablehnungen erfolgen.

Testen Sie es auch mit Function Calls und dem JSON-Modus. Stellen Sie sicher, dass die Ausgabe parsebar und korrekt ist. Dieses umfassende Testing gewährleistet einen reibungslosen Launch.

Testen Sie mit Ihren tatsächlichen Daten. Synthetische Daten decken möglicherweise nicht alle Probleme auf.

Dies ist der beste Weg, um Bugs früh zu erkennen. Die API ist zuverlässig, aber Ihr Code kann Probleme haben. Überprüfen Sie die Integration End-to-End.

Verwenden Sie das Testguthaben für gründliche Tests. Es gibt Ihnen $0.50 Guthaben für 7 Tage. Dies reicht aus, um die meisten Szenarien zu testen. Melden Sie sich mit Google oder E-Mail an, um zu beginnen. Dies macht es einfach, Ihre Integration zu validieren, bevor Sie sich festlegen.