Dolphin ai 生产检查清单

1. 验证 OpenAI 兼容端点兼容性

首先确认端点结构符合标准的 OpenAI chat-completions 格式。我们的 API 严格遵循此模式，因此您可以使用现有 SDK 而无需编写自定义包装器。基础 URL 为 HTTPS://api.dolphinmodelos.com/v1，您必须在每个请求中将模型 id 设置为 "uncensored"。这确保您访问的是专用的无审查推理引擎，而不是路由聚合器。

• 使用官方 OpenAI Python 或 Node.js SDK。
• 覆盖基础 URL 以指向我们的端点。
• 将 API 密钥放入 Authorization 请求头中。

这种方法消除了对供应商特定逻辑的需求。您直接连接到无审查的大型语言模型。响应将遵循标准 JSON 结构。没有隐藏的路由逻辑或专有字段会破坏您的解析器。

在扩展之前验证基础 URL。单个字符的更改就可能导致集成失败。

这种兼容性意味着您可以在需要时替换其他模型，但就目前而言，您将获得纯粹的 uncensored 推理。该端点专为希望获得可预测且符合模式的响应的开发人员而设计。它不提供嵌入或图像生成功能，因此请保持您的负载专注于文本。

检查 GET /v1/models 端点，确认模型 ID 列为 "uncensored"。这是所有后续调用的主要锚点。

2. 实现健壮的流式错误处理

流式错误是生产环境中 LLM 集成最常见的故障点。您必须小心处理服务器发送事件 (SSE) 流。最后一个数据块包含令牌使用数据，但错误也可能出现在较早的数据块中。

• 监听 "error" 事件类型。
• 解析最后一个数据块以获取用量统计信息。
• 优雅处理网络超时。

不要假设流式传输总是能成功完成。500 错误可能会在中间中断流。你的代码应相应地重试或提醒用户。

通过 SSE 流式传输可以实现较低的延迟，但需要强大的错误处理。如果连接断开，你将丢失部分响应。在重新连接前存储最后一个已知状态。这对于 uncensored 模型至关重要，因为它们可能生成更长或更多样化的输出。

切勿忽略最后一个块。它包含可计费 token 的数量。

为每个块实现 30 秒的超时。如果块花费的时间更长，则假设连接已断开。这可以防止您的应用程序无限期挂起。API 不保证特定的延迟，因此请构建弹性。

官方 SDK 会自动处理大部分工作。但如果您正在编写原始 HTTP 调用，请手动解析 SSE 格式。查找 "data:" 前缀并解析 JSON。

3. 管理上下文窗口和令牌限制

上下文窗口限制为 100,000 个 token，包括提示词和补全内容的总和。这是 uncensored 模型的硬性限制。如果你的输入超过此限制，API 将返回错误。

• 在发送前计算 token 数量。
• 仔细监控提示长度。
• 设置输出的 max_tokens 限制。

每次请求的最大输出为 16,000 个 token。如果您未设置 max_tokens，则默认为 2,048 个 token。这对于大多数用例来说是一个安全的默认值。

然而，对于长文本内容，您需要提高此限制。请注意，较长的输出会消耗更多额度。价格为每 100 万输入令牌 $0.15，每 100 万输出令牌 $0.50。此定价透明且可预测。

在发送大型提示前计算令牌用量。50k 令牌提示仅剩下 50k 用于输出。

此余额对维持服务质量至关重要。如果需要更多上下文，请考虑对输入进行分块。不要依赖 API 自动截断。如果超出限制，它将报错。

此限制适用于总 token 计数，而不仅仅是字符数。使用分词器库获得准确计数。这确保你保持在预算和性能阈值内。

4. 配置函数调用以用于工具使用

函数调用允许你的应用程序通过 LLM 与外部 API 交互。API 支持 tools 和 tool_choice 参数。这对于构建代理工作流至关重要。

• 在请求中定义你的函数模式。
• 将 tool_choice 设置为 "auto" 或 "required"。
• 仔细解析函数调用参数。

无审查模型经过调整，能精确遵循指令。这意味着它很少拒绝有效的工具调用。然而，你必须验证输出。模型可能会生成略微格式错误的 JSON。

在执行函数之前始终验证函数参数。这可以防止下游服务中的错误。API 以标准 OpenAI 格式返回函数调用。您可以使用官方 SDK 解析此内容。

使用边缘情况测试函数调用。如果未进行约束，模型可能会编造参数。

这是无审查模型的一个特性。它们更灵活，但需要更多的验证。将 temperature 设置为较低的值以实现一致的工具使用。这降低了生成错误论据的可能性。

使用 JSON 模式实现更严格的输出约束。这确保模型仅返回有效的 JSON。这是实现可靠自动化的强大组合。

5. 验证JSON模式约束

JSON 模式可确保模型返回有效的 JSON 对象。这对于在代码中解析响应至关重要。将 response_format 参数设置为 {"type": "json_object"}。

• 启用 JSON 模式以进行结构化数据。
• 在解析之前验证输出。
• 优雅处理解析错误。

无审查模型很好地尊重此约束。它不会在 JSON 之外添加 Markdown 或额外文本。这使得解析可靠且快速。

然而，JSON 模式有时会降低模型的创造力。它迫使模型保持在模式内。这是您必须考虑的权衡。对于严格的数据提取，它非常理想。对于创意写作，它可能会显得受限。

在使用 JSON 之前始终验证它。单个语法错误可能会破坏您的应用程序。

在您的管道中使用 JSON 验证器。这可以尽早捕获错误。API 不保证 JSON 完美，但具有高度可靠性。

将 JSON 模式与函数调用结合使用，以实现最大精度。这确保模型返回您期望的确切内容。这是构建可靠 AI 应用的强大工具。

6. 监控速率限制和并发性

API 实施严格的速率限制以确保公平使用。每个密钥每分钟限制为 300 次请求。此外，您可以同时拥有 8 个并发请求。

• 监控您每分钟请求的数量。
• 将并发请求限制为 8。
• 处理 429 请求过多错误。

如果您超出这些限制，API 将返回 429 错误。您应在重试逻辑中实现指数退避。

这对于生产系统至关重要。如果未进行管理，流量突然激增可能会使您的应用程序不堪重负。8 MB 的请求体限制也很重要。大型负载很容易达到此限制。

为速率限制错误实现断路器。这可以防止级联故障。

这确保了您应用的稳定性。API 不提供突发额度，因此请相应规划您的流量。

每个账户使用单个 API 密钥。如果需要更高的并发性，您可以生成新密钥，但它会替换旧密钥。这是一个简单但有效的限制。通过流的最后一个数据块监控您的使用情况。这能为您提供令牌消耗情况的实时反馈。

7. 确保内容策略对齐

无审查模型不会拒绝大多数成人或争议性话题。然而，有一个硬性限制：涉及未成年人的性内容。这始终会强制执行。

• 在提示中检查涉及未成年人的内容。
• 预计对其他成人主题没有拒绝。
• 针对您的特定用例验证输出。

这使得该模型非常适合创意写作和成人内容。你无需担心突然的拒绝。

然而，“无审查”并不意味着“无过滤”。模型仍可能生成低质量或不相关的内容。您可能需要对输出进行后处理。

定义你自己的内容边界。API 仅强制执行次要限制。

这赋予了您灵活性，但也带来了责任。请针对您的受众验证输出。如有需要，可使用简单的关键词过滤器。

该模型针对合法成人用途进行了优化。它不保证适合儿童使用。请明确您的目标受众。这有助于避免意外的投诉。该 API 专为了解自身需求的开发者设计。

8. 优化提示词长度结构

提示结构影响性能和成本。长提示消耗更多 token 并增加延迟。如果可能，请将提示拆分为较小的块。

• 保持系统提示简洁。
• 谨慎使用少样本示例。
• 移除多余空白。

无审查模型很好地处理长提示，但您受限于 100k token 窗口。请仔细规划您的 token 预算。

使用 temperature 参数控制创造性。较低的温度会产生更确定性的输出。这对于函数调用和 JSON 模式很有用。

测试不同的提示结构。微小的更改即可显著提升输出质量。

这是提示词工程的关键部分。模型具有灵活性，但需要清晰的指令。提供上下文和示例以引导模型。

监控每个请求中的 token 使用情况。这有助于您识别低效的提示。优化速度和成本。API 定价透明，因此您可以计算每个提示的确切成本。这使您能够高效扩展。

9. 使用代表性的无限制提示词进行测试

测试是部署前的最后一步。使用反映您实际用例的提示。测试标准情况和边缘情况。

• 发送各种类型的提示。
• 检查响应的一致性。
• 验证错误处理。

无审查模型应处理广泛的话题。使用争议性或成人主题进行测试，以确保无拒绝。

还要测试函数调用和 JSON 模式。确保输出可解析且正确。这种全面测试可确保顺利上线。

使用您的实际数据测试。合成数据可能无法揭示所有问题。

这是尽早发现 bug 的最佳方式。API 是可靠的，但您的代码可能存在问题。请端到端验证集成。

使用试用信用额度进行彻底测试。它提供 $0.50 的信用额度，有效期为 7 天。这足以测试大多数场景。使用 Google 或电子邮件注册即可开始。这使得在承诺之前轻松验证您的集成。