Dolphin modelos API 빠른 시작

Base URL 및 인증

Dolphin 모델스 API는 OpenAI 호환 서비스입니다. 기본 URL을 다음으로 설정하세요. https://api.dolphinmodelos.com/v1 API 키를 Authorization header. 모델 ID uncensored 추론을 위한. 이는 커스텀 라우팅 로직 없이 표준 SDK와의 호환성을 보장합니다.

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

완료 요청 보내기

간단한 텍스트 프롬프트를 보내 응답을 생성하세요. API는 다음과 같은 표준 매개변수를 지원합니다. temperature 및 top_p불필요한 래퍼 없이 순수 텍스트 출력을 받게 됩니다. 이 직접적인 접근 방식은 모델별 구문 분석 로직의 필요성을 제거합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SSE를 사용한 스트리밍 응답

서버 전송 이벤트를 사용하여 실시간 토큰 생성을 활성화하세요. 최종 청크에는 청구 정확성을 위한 전체 토큰 사용 통계가 포함됩니다. 스트리밍은 긴 출력의 지각된 지연 시간을 줄입니다. 이 방법은 즉각적인 피드백이 필요한 대화형 애플리케이션에 이상적입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

함수 호출 및 도구들

도구를 정의하여 모델이 특정 작업을 실행하도록 하세요. 사용 tool_choice 함수 사용 강요. API는 표준 도구 정의를 지원하며 구조화된 인수를 반환합니다. 이는 외부 파싱 스크립트 없이 복잡한 워크플로우를 가능하게 합니다. 원활한 통합을 위해 표준 OpenAI 형식을 통해 도구를 구성하십시오.

구조화된 출력을 위한 JSON 모드

을 사용하여 유효한 JSON 출력을 강제하세요. response_format: {"type": "json_object"}. 이는 하류 처리를 위한 일관된 데이터 구조를 보장합니다. API 응답이나 데이터베이스 삽입에 이상적입니다. 모델은 대화형 여백 텍스트를 추가하지 않고 스키마를 준수합니다.

오류 처리 및 제한

컨텍스트 윈도우는 총 100,000 토큰입니다. 유효하지 않은 키로 인한 401 오류나 속도 제한으로 인한 429 오류와 같은 오류를 처리하세요. API는 분당 300개의 요청을 허용합니다. 이러한 코드를 사용하여 재시도를 효율적으로 관리하세요. 오류 및 거부 요청은 크레딧을 소모하지 않으므로 테스트 단계에서 잔액을 보호합니다.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);