Dolphin ai 生產檢查清單

1. 驗證 OpenAI 相容端點相容性

首先確認端點結構符合標準的 OpenAI chat-completions 格式。我們的 API 嚴格遵循此架構，因此您可以使用現有的 SDK 而無需編寫自訂包裝函式。基礎 URL 為 HTTPS://api.dolphinmodelos.com/v1，且您必須在每個請求中將 model id 設為 "uncensored"。這可確保您連接到專用的 uncensored 推理引擎，而非路由聚合器。

• 使用官方 OpenAI Python 或 Node.js SDK。
• 覆寫基礎 URL 以指向我們的端點。
• 將您的 API 金鑰傳入 Authorization 標頭。

此方法消除了對供應商特定邏輯的需求。您直接連接到無審查的大型語言模型。回應將遵循標準的 JSON 結構。不會有隱藏的路由邏輯或會破壞您解析器的專有欄位。

在擴展之前驗證基礎 URL。一個字元的差異就可能破壞您的整合。

此相容性意味著您可以在需要時稍後替換其他模型，但就目前而言，您獲得的是純粹的 uncensored 推理。端點專為希望獲得可預測、符合 schema 回應的開發者而設計。它不提供嵌入或影像生成，因此請保持您的 payload 專注於文字。

檢查 GET /v1/models 端點，確認模型 ID 列為 "uncensored"。這是所有後續呼叫的主要錨點。

2. 實現健壯的串流傳輸錯誤處理

串流錯誤是生產環境中 LLM 整合最常見的失敗點。您必須謹慎處理伺服器發送事件 (SSE) 串流。最後一個區塊包含計費資料，但錯誤也可能出現在較早的區塊中。

• 監聽 "error" 事件類型。
• 解析最後一個區塊以取得用量統計。
• 優雅地處理網路超時。

不要假設串流總是會成功完成。500 錯誤可能會在中途中斷串流。您的程式碼應相應地重試或通知使用者。

透過 SSE 串流可降低延遲，但需要強大的錯誤處理機制。如果連線中斷，您將失去部分回應。在重新連線前儲存最後已知狀態。這對於 uncensored 模型至關重要，因為它們可能會生成更長或多樣化的輸出。

Never ignore the final chunk. It contains the billable token count.

為每個區塊設定 30 秒的超時。如果區塊耗時較長，請假設連線已死亡。這可防止您的應用程式無限期掛起。API 不保證特定的延遲，因此請建立韌性。

官方 SDK 會自動處理大部分工作。但如果您正在編寫原始 HTTP 調用，請手動解析 SSE 格式。查找 "data:" 前綴並解析 JSON。

3. 管理上下文窗口與令牌限制

上下文視窗限制為 100,000 個 token，包含提示詞與補全內容的總和。這是 uncensored 模型的硬性限制。如果您的輸入超過此限制，API 將返回錯誤。

• 在發送前計算 token 數量。
• 仔細監控提示長度。
• 設置 max_tokens 輸出限制。

每次請求的最大輸出為 16,000 個 token。若未設定 max_tokens，則預設為 2,048 個 token。對於大多數用例而言，這是一個安全的預設值。

然而，對於長篇內容，您需要提高此限制。請注意，較長的輸出會消耗更多額度。價格為每 1M 輸入 token $0.15，每 1M 輸出 token $0.50。此定價透明且可預測。

在發送大型提示之前計算您的 token 用量。50k token 的提示僅剩 50k 用於輸出。

此餘額對於維持服務品質至關重要。如果您需要更多語境，請考慮將輸入分塊。不要依賴 API 自動截斷。如果您超過限制，它會報錯。

此限制適用於總 token 計數，而不僅是字符數。使用 tokenizer 庫獲得準確計數。這確保你保持在預算和性能閾值內。

4. 設定函數呼叫以進行工具使用

函式呼叫允許您的應用程式透過 LLM 與外部 API 互動。API 支援 tools 和 tool_choice 參數。這對於建構代理型工作流程至關重要。

• 在請求中定義你的函式結構。
• 將 tool_choice 設為 "auto" 或 "required"。
• 仔細解析函式呼叫參數。

無審查模型經過調優，能精確遵循指令。這意味著它很少拒絕有效的工具呼叫。然而，你必須驗證輸出。模型可能會生成略微格式錯誤的 JSON。

始終在執行之前驗證函數參數。這可防止下游服務中的錯誤。API 以標準 OpenAI 格式返回函數呼叫。您可以使用官方 SDK 解析此內容。

使用極端案例測試函式呼叫。若未加以限制，模型可能會捏造參數。

這是無審查模型的功能。它們更具靈活性，但需要更多驗證。將 temperature 設置為較低值以獲得一致的工具使用。這降低了幻覺參數的發生機率。

使用 JSON 模式以獲得更嚴格的輸出限制。這可確保模型僅回傳有效的 JSON。這是實現可靠自動化的強大組合。

5. 驗證 JSON 模式約束

JSON 模式可確保模型回傳有效的 JSON 物件。這對於在程式碼中解析回應至關重要。請將 response_format 參數設為 {"type": "json_object"}。

• 為結構化資料啟用 JSON 模式。
• 在解析之前驗證輸出。
• 優雅地處理解析錯誤。

無審查模型很好地尊重此約束。它不會在 JSON 之外添加 markdown 或額外文字。這使得解析可靠且快速。

不過，JSON 模式有時會降低模型的創意。它強制模型保持在架構範圍內。這是一個您必須權衡的取捨。對於嚴格的數據提取，它非常理想。對於創意寫作，它可能會顯得受限。

在使用 JSON 之前始終驗證它。單個語法錯誤可能會破壞您的應用程式。

在您的管線中使用 JSON 驗證器。這能及早發現錯誤。API 不保證 JSON 完美無缺，但具有高度可靠性。

將 JSON 模式與函式呼叫結合，以獲得最大精確度。這可確保模型返回您預期的內容。這是構建可靠 AI 應用程式的強大工具。

6. 監控速率限制與並發性

API 實施嚴格速率限制以確保公平使用。每個金鑰每分鐘限制為 300 次請求。此外，您同時最多可有 8 個併發請求。

• 監控您每分鐘的請求計數。
• 將並發請求限制為 8。
• 處理 429 Too Many Requests 錯誤。

如果您超過這些限制，API 將返回 429 錯誤。您應在重試邏輯中實作指數退避。

這對於生產系統至關重要。如果未妥善管理，流量的突然激增可能會壓垮您的應用程式。8 MB 的請求主體限制也很重要。大型載荷很容易達到此限制。

為速率限制錯誤實作電路斷路器。這可防止級聯故障。

這可確保應用程式保持穩定。該 API 不提供突發流量額度，請根據此規劃您的流量。

每個帳戶使用單一 API 金鑰。若需要更高的併發性，您可以產生新金鑰，但它會取代舊金鑰。這是一個簡單但有效的限制。透過串流的最後一個區塊監控您的用量。這能讓您即時掌握 token 消耗情況。

7. Ensure Content Policy Alignment

該無審查模型不會拒絕大多數成人或具爭議性的主題。然而，有一個硬性限制：涉及未成年人的性內容。這始終會強制執行。

• 檢查提示詞中是否包含與未成年人相關的內容。
• 預期其他成人主題無拒絕。
• 驗證輸出是否符合您的特定使用案例。

這使得該模型非常適合創意寫作和成人內容。你無需擔心突然的拒絕。

不過，「無審查」並不意味著「無過濾」。模型仍可能生成低品質或無關的內容。您可能需要對輸出進行後處理。

定義你自己的內容邊界。API 僅執行次要的限制。

這賦予您靈活性，但也帶來責任。請為您的受眾驗證輸出。如有需要，可使用簡單的關鍵字過濾器。

該模型已針對合法成人用途進行調優。它不保證適合兒童使用。請明確您的目標受眾。這能確保您避免意外的投訴。該 API 專為清楚知道自己需求的開發者設計。

8. Optimize Prompt Structure for Length

提示結構影響效能與成本。長提示消耗更多 token 並增加延遲。如果可能，請將提示拆分為較小的區塊。

• 保持系統提示簡潔。
• 謹慎使用少樣本範例。
• 移除不必要的空白。

該無審查模型能很好地處理長提示詞，但您受 100k token 視窗的限制。請仔細規劃您的 token 預算。

使用 temperature 參數來控制創造力。較低的 temperature 會產生更具決定性的輸出。這對於函式呼叫和 JSON 模式很有用。

測試不同的提示結構。微小的變化可以顯著提高輸出品質。

這是提示詞工程（prompt engineering）的關鍵部分。模型具有靈活性，但需要清晰的指令。提供上下文和範例以引導模型。

監控每個請求中的 token 使用情況。這有助於您識別低效的提示。同時優化速度和成本。API 定價透明，因此您可以計算每個提示的確切成本。這使您能夠有效擴展。

9. 使用具代表性的無審查提示詞進行測試

測試是部署前的最後一步。使用反映您實際用例的提示。測試標準情況和極端情況。

• 發送各種類型的提示。
• 檢查回應的一致性。
• 驗證錯誤處理。

無審查模型應能處理廣泛的主題。使用爭議性或成人主題進行測試，以確保無拒絕。

也請測試函式呼叫和 JSON 模式。確保輸出可解析且正確。這些全面測試可確保順利上線。

使用您的實際資料進行測試。合成資料可能無法揭示所有問題。

這是早期發現錯誤的最佳方式。API 是可靠的，但你的程式碼可能有問題。請端到端驗證整合。

使用試用信用額度進行徹底測試。它提供 $0.50 的信用額度，有效期為 7 天。這足以測試大多數情境。使用 Google 或電子郵件註冊即可開始。這使得在承諾之前驗證您的整合變得非常簡單。