เริ่มต้นใช้งาน API Dolphin modelos

URL ฐานและการตรวจสอบสิทธิ์

API โมเดล Dolphin เป็นบริการที่เข้ากันได้กับ OpenAI ตั้งค่า base URL ของคุณเป็น https://api.dolphinmodelos.com/v1 ส่งคีย์ API ของคุณใน Authorization header. ใช้ ID โมเดล uncensored สำหรับการอนุมาน สิ่งนี้ทำให้เข้ากันได้กับ SDK มาตรฐานโดยไม่ต้องใช้ตรรกะการเปลี่ยนเส้นทางแบบกำหนดเอง

Copycurl https://api.dolphinmodelos.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List endpoints for wallet connection via crypto gateway"}]
  }'

การส่ง Completion Request

ส่งคำขอข้อความแบบง่ายเพื่อสร้างการตอบกลับ API ยอมรับพารามิเตอร์มาตรฐานเช่น temperature และ top_p. คุณได้รับเอาต์พุตข้อความบริสุทธิ์โดยไม่มีตัวห่อที่ไม่จำเป็น วิธีการตรงไปตรงมานี้ขจัดความจำเป็นในการใช้ตรรกะการแยกวิเคราะห์เฉพาะโมเดล

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelos.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตอบกลับแบบสตรีมมิ่งด้วย SSE

เปิดใช้งานการสร้างโทเค็นแบบเรียลไทม์โดยใช้ Server-Sent Events chunk สุดท้ายรวมถึงสถิติการใช้โทเค็นทั้งหมดเพื่อความแม่นยำในการเรียกเก็บเงิน การสตรีมช่วยลดความล่าช้าที่ผู้ใช้รู้สึกสำหรับผลลัพธ์ที่ยาวนาน วิธีนี้เหมาะสำหรับแอปพลิเคชันแบบโต้ตอบที่ต้องการการตอบกลับทันที

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling และเครื่องมือ

กำหนดเครื่องมือเพื่อให้โมเดลสามารถดำเนินการเฉพาะได้ ใช้ tool_choice เพื่อบังคับใช้การใช้งานฟังก์ชัน API รองรับคำจำกัดความของเครื่องมือมาตรฐานและส่งกลับอาร์กิวเมนต์ที่มีโครงสร้าง สิ่งนี้เปิดใช้งานเวิร์กโฟลว์ที่ซับซ้อนโดยไม่ต้องใช้สคริปต์แยกวิเคราะห์ภายนอก กำหนดค่าเครื่องมือผ่านรูปแบบ OpenAI มาตรฐานเพื่อการผสานรวมที่ราบรื่น

โหมด JSON สำหรับผลลัพธ์ที่มีโครงสร้าง

บังคับให้โมเดลส่งคืน JSON ที่ถูกต้องโดยใช้ response_format: {"type": "json_object"}. เพื่อให้แน่ใจว่าโครงสร้างข้อมูลสอดคล้องกันสำหรับการประมวลผลต่อๆ ไป เหมาะสำหรับการตอบกลับ API หรือการแทรกฐานข้อมูล โมเดลจะปฏิบัติตามสคีมาโดยไม่เพิ่มข้อความสนทนาหรือคำพูดนำ

การจัดการข้อผิดพลาดและขีดจำกัด

ขนาดหน้าต่างบริบทคือ 100,000 tokens โดยรวม จัดการข้อผิดพลาดเช่น 401 สำหรับคีย์ที่ไม่ถูกต้อง หรือ 429 สำหรับขีดจำกัดอัตรา API บังคับใช้ 300 คำขอต่อนาที ใช้รหัสเหล่านี้เพื่อจัดการการลองใหม่ได้อย่างมีประสิทธิภาพ ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต ซึ่งปกป้องยอดคงเหลือของคุณในช่วงเวลาทดสอบ

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelos.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);