Lista de verificación de producción de Dolphin ai

1. Verificar la compatibilidad con endpoints compatibles con OpenAI

Empieza confirmando que la estructura del extremo coincide con el formato estándar de chat-completions de OpenAI. Nuestra API se adhiere estrictamente a este esquema, por lo que puedes usar SDK existentes sin escribir adaptadores personalizados. La URL base es HTTPS://api.dolphinmodelos.com/v1, y debes establecer el id del modelo en "uncensored" en cada solicitud. Esto garantiza que estás accediendo al motor de inferencia uncensored dedicado en lugar de un agregador con enrutamiento.

• Usa los SDKs oficiales de Python o Node.js de OpenAI.
• Anula la URL base para apuntar a nuestro punto final.
• Pasa tu clave de API en el encabezado Authorization.

Este enfoque elimina la necesidad de lógica específica del proveedor. Te estás conectando directamente a un modelo de lenguaje grande sin censura. La respuesta seguirá la estructura JSON estándar. No habrá lógica de enrutamiento oculta ni campos propietarios que rompan tu analizador.

Verifica la URL base antes de escalar. Un solo cambio de carácter puede romper tu integración.

Esta compatibilidad significa que puedes intercambiar otros modelos más adelante si es necesario, pero por ahora, obtienes inferencia pura y sin censura. El endpoint está diseñado para desarrolladores que desean respuestas predecibles y conformes con el esquema. No ofrece incrustaciones ni generación de imágenes, así que mantén tu carga útil enfocada en texto.

Verifica el endpoint GET /v1/models para confirmar que el id del modelo aparece listado como "uncensored". Este es tu ancla principal para todas las llamadas subsiguientes.

2. Implementa un manejo de errores robusto para streaming

Los errores de flujo son el punto de fallo más común en integraciones de LLM en producción. Debes manejar cuidadosamente el flujo de Server-Sent Events (SSE). El último fragmento contiene los datos de uso de tokens, pero los errores también pueden aparecer en fragmentos anteriores.

• Escucha el tipo de evento "error".
• Analiza el último fragmento para obtener las estadísticas de uso.
• Maneja tiempos de espera de red de forma elegante.

No asumas que el stream siempre se completará con éxito. Un error 500 podría interrumpir el stream a mitad de camino. Tu código debería reintentar o alertar al usuario según corresponda.

El streaming mediante SSE permite una menor latencia, pero requiere un manejo de errores robusto. Si la conexión se cae, pierdes la respuesta parcial. Guarda el último estado conocido antes de reconectar. Esto es crucial para los modelos sin censura, que pueden generar salidas más largas o más variadas.

Nunca ignores el último fragmento. Contiene el recuento de tokens facturables.

Implementa un tiempo de espera de 30 segundos para cada fragmento. Si un fragmento tarda más, asume que la conexión está muerta. Esto evita que tu aplicación se quede colgada indefinidamente. La API no garantiza una latencia específica, así que construye resiliencia.

Usa los SDK oficiales que manejan la mayoría de esto automáticamente. Pero si estás escribiendo llamadas HTTP sin procesar, analiza el formato SSE manualmente. Busca el prefijo "data:" y analiza el JSON.

3. Gestionar la ventana de contexto y los límites de tokens

La ventana de contexto está limitada a 100.000 tokens para prompt y completado combinados. Este es un límite estricto para el modelo uncensored. Si tu entrada excede esto, la API devolverá un error.

• Calcula los conteos de tokens antes de enviar.
• Monitora la longitud del prompt cuidadosamente.
• Establece un límite max_tokens para la salida.

La salida máxima por solicitud es de 16.000 tokens. Si no estableces max_tokens, el valor predeterminado es de 2.048 tokens. Este es un valor predeterminado seguro para la mayoría de los casos de uso.

Sin embargo, para contenido de gran extensión, debes aumentar este límite. Ten en cuenta que las salidas más largas consumen más crédito. El precio es de $0.15 por cada 1M de tokens de entrada y $0.50 por cada 1M de tokens de salida. Esta tarificación es transparente y predecible.

Calcula el uso de tokens antes de enviar prompts grandes. Un prompt de 50k tokens deja solo 50k para la salida.

Este saldo es crucial para mantener la calidad del servicio. Si necesitas más contexto, considera fragmentar tu entrada. No confíes en la API para que haga truncamiento automático. Generará un error si excedes el límite.

Este límite se aplica al recuento total de tokens, no solo a los caracteres. Usa una biblioteca de tokenización para obtener un recuento preciso. Esto asegura que te mantengas dentro del presupuesto y los umbrales de rendimiento.

4. Configura la llamada de funciones para el uso de herramientas

La llamada a funciones permite que tu aplicación interactúe con APIs externas a través del LLM. La API admite los parámetros tools y tool_choice. Esto es esencial para construir flujos de trabajo agénticos.

• Define tus esquemas de función en la solicitud.
• Establece tool_choice en "auto" o "required".
• Analiza los argumentos de la llamada a la función con cuidado.

El modelo sin censura está ajustado para seguir las instrucciones con precisión. Esto significa que rara vez rechazará una llamada de herramienta válida. Sin embargo, debes validar la salida. El modelo puede generar JSON ligeramente desformateado.

Valida siempre los argumentos de la función antes de ejecutarlos. Esto evita errores en tus servicios posteriores. La API devuelve la llamada a la función en el formato estándar de OpenAI. Puedes analizar esto utilizando los SDK oficiales.

Prueba la invocación de funciones con casos extremos. El modelo puede inventar argumentos si no se restringe.

Esta es una característica de los modelos sin censura. Son más flexibles, pero requieren más validación. Establece la temperatura a un valor más bajo para un uso de herramientas consistente. Esto reduce la probabilidad de argumentos alucinados.

Usa el modo JSON para restricciones de salida aún más estrictas. Esto asegura que el modelo devuelva solo JSON válido. Es una combinación poderosa para automatización confiable.

5. Validar las restricciones del modo JSON

El modo JSON garantiza que el modelo devuelva un objeto JSON válido. Esto es crítico para analizar la respuesta en tu código. Establece el parámetro response_format a {"type": "json_object"}.

• Habilita el modo JSON para datos estructurados.
• Valida la salida antes del análisis.
• Maneja errores de análisis de forma elegante.

El modelo sin censura respeta bien esta restricción. No añadirá markdown ni texto extra fuera del JSON. Esto hace que el análisis sea fiable y rápido.

Sin embargo, el modo JSON a veces puede reducir la creatividad del modelo. Obliga al modelo a mantenerse dentro del esquema. Esta es una compensación que debes considerar. Para la extracción estricta de datos, es ideal. Para la escritura creativa, puede parecer restrictivo.

Valida siempre el JSON antes de usarlo. Un solo error de sintaxis puede romper tu aplicación.

Usa un validador de JSON en tu pipeline. Esto detecta errores temprano. La API no garantiza un JSON perfecto, pero es altamente confiable.

Combina el modo JSON con la llamada de funciones para máxima precisión. Esto asegura que el modelo devuelva exactamente lo que esperas. Es una herramienta potente para construir aplicaciones de IA confiables.

6. Monitoriza los límites de velocidad y la concurrencia

La API impone límites estrictos de velocidad para garantizar un uso justo. Estás limitado a 300 solicitudes por minuto por clave. Además, puedes tener 8 solicitudes concurrentes al mismo tiempo.

• Monitorea tu recuento de solicitudes por minuto.
• Limita las solicitudes concurrentes a 8.
• Gestiona los errores 429 Too Many Requests.

Si superas estos límites, la API devolverá un error 429. Deberías implementar retroceso exponencial en tu lógica de reintento.

Esto es crucial para los sistemas de producción. Un pico repentino de tráfico puede abrumar tu aplicación si no se gestiona. El límite de cuerpo de solicitud de 8 MB también es importante. Las cargas útiles grandes pueden alcanzar este límite rápidamente.

Implementa un interruptor de circuito para errores de límites de velocidad. Esto evita fallos en cascada.

Esto garantiza la estabilidad de tu aplicación. La API no ofrece permisos de ráfaga, así que planifica tu tráfico en consecuencia.

Usa una única clave API por cuenta. Si necesitas más concurrencia, puedes generar una nueva clave, pero esta reemplaza a la anterior. Este es un límite simple pero efectivo. Monitorea tu uso a través del último fragmento del stream. Esto te da retroalimentación en tiempo real sobre tu consumo de tokens.

7. Asegura la Alineación con la Política de Contenido

El modelo sin censura no rechaza la mayoría de los temas adultos o controvertidos. Sin embargo, existe un límite estricto: el contenido sexual que involucra a menores. Este siempre se aplica.

• Verifica contenido relacionado con menores en tus prompts.
• Esperar sin rechazos para otros temas para adultos.
• Validar la salida para su caso de uso específico.

Esto hace que el modelo sea ideal para escritura creativa y contenido para adultos. No necesitas preocuparte por las negaciones repentinas.

Sin embargo, "sin censura" no significa "sin filtros". El modelo aún puede generar contenido de baja calidad o irrelevante. Es posible que necesites postprocesar la salida.

Define tus propios límites de contenido. La API solo aplica el límite menor.

Esto te da flexibilidad pero también responsabilidad. Valida la salida para tu audiencia. Utiliza un filtro de palabras clave simple si es necesario.

El modelo está optimizado para uso adulto lícito. No garantiza su idoneidad para niños. Aclara claramente tu público objetivo. Esto te asegura evitar quejas inesperadas. La API está diseñada para desarrolladores que saben lo que quieren.

8. Optimiza la Estructura del Prompt para la Longitud

La estructura del prompt afecta tanto el rendimiento como el costo. Los prompts largos consumen más tokens y aumentan la latencia. Divide tus prompts en fragmentos más pequeños si es posible.

• Mantén los prompts del sistema concisos.
• Usa ejemplos few-shot con moderación.
• Elimina el espacio en blanco innecesario.

El modelo sin censura maneja bien los prompts largos, pero estás limitado por la ventana de 100k tokens. Planifica tu presupuesto de tokens cuidadosamente.

Utiliza el parámetro temperature para controlar la creatividad. Una temperatura más baja produce salidas más deterministas. Esto es útil para la llamada a funciones y el modo JSON.

Prueba diferentes estructuras de prompt. Pequeños cambios pueden mejorar significativamente la calidad de la salida.

Esta es una parte clave de la ingeniería de prompts. El modelo es flexible, pero necesita instrucciones claras. Proporciona contexto y ejemplos para guiar al modelo.

Monitora el uso de tokens en cada solicitud. Esto te ayuda a identificar prompts ineficientes. Optimiza tanto para velocidad como para coste. El precio de la API es transparente, por lo que puedes calcular el coste exacto de cada prompt. Esto te permite escalar de forma eficiente.

9. Prueba con Prompts sin censura representativos

Las pruebas son el paso final antes del despliegue. Usa prompts que reflejen tus casos de uso reales. Prueba tanto casos estándar como casos extremos.

• Envía una variedad de tipos de prompts.
• Verifica la coherencia en las respuestas.
• Validar el manejo de errores.

El modelo sin censura debería manejar una amplia gama de temas. Prueba con temas controvertidos o adultos para asegurarte de que no haya rechazos.

También prueba con llamadas a funciones y el modo JSON. Asegúrate de que la salida sea analizable y correcta. Esta prueba exhaustiva garantiza un lanzamiento fluido.

Prueba con tus datos reales. Los datos sintéticos pueden no revelar todos los problemas.

Esta es la mejor manera de detectar errores temprano. La API es fiable, pero tu código puede tener problemas. Verifica la integración de extremo a extremo.

Utiliza el crédito de prueba para probar a fondo. Te da $0.50 de crédito durante 7 días. Esto es suficiente para probar la mayoría de los escenarios. Regístrate con Google o correo electrónico para empezar. Esto facilita la validación de tu integración antes de comprometerte.