Semak Senarai Pengeluaran Dolphin ai

1. Verifikasi Keserasian Hujung Sambungan Serasi OpenAI

Mula dengan mengesahkan bahawa struktur endpoint sepadan dengan format chat-completions OpenAI piawai. API kami mematuhi skema ini dengan ketat, jadi anda boleh menggunakan SDK sedia ada tanpa menulis pembungkus tersuai. URL asas ialah HTTPS://api.dolphinmodelos.com/v1, dan anda mesti menetapkan id model kepada "uncensored" dalam setiap permintaan. Ini memastikan anda menghubungi enjin inferens uncensored yang didedikasikan dan bukannya pengagregat yang dialihkan.

• Gunakan pakej atau SDK Python atau Node.js OpenAI yang rasmi.
• Tindih URL asas untuk menunjuk ke hujung titik kami.
• Masukkan kunci API anda dalam header Authorization.

Pendekatan ini menghapuskan keperluan untuk logik khusus vendor. Anda menyambung terus ke model bahasa besar tanpa sensor. Respons akan mengikut struktur JSON piawai. Tiada logik penghalaan tersembunyi atau medan proprietari yang akan memecahkan parser anda.

Sahkan URL asas sebelum skala. Satu perubahan aksara boleh mematahkan integrasi anda.

Keserasian ini bermaksud anda boleh menukar model lain kemudian jika diperlukan, tetapi buat masa ini, anda mendapat inferens uncensored tulen. Titik akhir direka bentuk untuk pembangun yang mahu respons yang boleh diramal dan mematuhi skema. Ia tidak menawarkan penjanaan litar atau imej, jadi fokuskan muatan teks anda.

Semak hujung GET /v1/models untuk mengesahkan ID model disenaraikan sebagai "uncensored". Ini adalah jangkar utama anda untuk semua panggilan seterusnya.

2. Laksanakan Pengendalian Ralat Penstriman yang Kukuh

Ralat aliran adalah titik kegagalan yang paling biasa dalam integrasi LLM pengeluaran. Anda mesti mengendalikan aliran Acara yang Dihantar Pelayan (SSE) dengan berhati-hati. Kepingan akhir mengandungi data penggunaan token, tetapi ralat juga boleh muncul dalam kepingan sebelumnya.

• Dengar untuk jenis acara "error".
• Uraikan chunk akhir untuk statistik penggunaan.
• Tangani masa tunggu rangkaian dengan lembut.

Jangan anda anggap aliran akan sentiasa lengkap dengan berjaya. Ralat 500 mungkin mengganggu aliran di tengah jalan. Kod anda harus cuba semula atau memaklumkan pengguna dengan sewajarnya.

Penstriman melalui SSE membolehkan latensi yang lebih rendah, tetapi memerlukan pengendalian ralat yang kukuh. Jika sambungan terputus, anda kehilangan respons separa. Simpan keadaan terakhir yang diketahui sebelum menyambung semula. Ini penting untuk model tanpa sensor, yang mungkin menjana output yang lebih panjang atau lebih pelbagai.

Jangan pernah abaikan potongan akhir. Ia mengandungi kiraan token yang boleh ditagih.

Laksanakan masa tamat selama 30 saat untuk setiap bahagian. Jika bahagian mengambil masa lebih lama, andaikan sambungan telah mati. Ini menghalang aplikasi anda daripada menggantung tanpa henti. API tidak menjamin latensi tertentu, jadi bina ketahanan.

Gunakan SDK rasmi yang mengendalikan kebanyakan ini secara automatik. Tetapi jika anda menulis panggilan HTTP mentah, urus format SSE secara manual. Cari awalan "data:" dan uraikan JSON.

3. Uruskan Tetingkap Konteks dan Had Token

Tingkap konteks terhad kepada 100,000 token untuk prompt dan penyelesaian bersama. Ini ialah had keras untuk model uncensored. Jika input anda melebihi ini, API akan mengembalikan ralat.

• Kira jumlah token sebelum menghantar.
• Pantau panjang arahan dengan teliti.
• Tetapkan had max_tokens untuk output.

Output maksimum setiap permintaan ialah 16,000 token. Jika anda tidak menetapkan max_tokens, ia akan ditetapkan secara lalai kepada 2,048 token. Ini adalah nilai lalai yang selamat untuk kebanyakan kes penggunaan.

Namun, untuk kandungan berformat panjang, anda perlu meningkatkan had ini. Ambil perhatian bahawa output yang lebih panjang menggunakan lebih banyak kredit. Harga ialah $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Penetapan harga ini telus dan boleh diramal.

Kira penggunaan token anda sebelum menghantar permintaan besar. Permintaan 50k token hanya meninggalkan 50k untuk output.

Baki ini penting untuk mengekalkan kualiti perkhidmatan. Jika anda memerlukan konteks lebih, pertimbangkan untuk memecahkan input anda. Jangan bergantung pada API untuk memotong secara automatik. Ia akan ralat jika anda melebihi had.

Had ini terpakai kepada jumlah kiraan token, bukan hanya aksara. Gunakan perpustakaan tokenizer untuk mendapatkan kiraan yang tepat. Ini memastikan anda kekal dalam bajet dan ambang prestasi.

4. Konfigurasi Panggilan Fungsi untuk Penggunaan Alat

Pemanggilan fungsi membolehkan aplikasi anda berinteraksi dengan API luaran melalui LLM. API menyokong parameter tools dan tool_choice. Ini penting untuk membina aliran kerja agentic.

• Takrifkan skema fungsi anda dalam permintaan.
• Tetapkan tool_choice kepada "auto" atau "required".
• Uraikan hujung panggilan fungsi dengan teliti.

Model tanpa sensor ditala untuk mengikuti arahan dengan tepat. Ini bermakna ia jarang menolak panggilan alat yang sah. Walau bagaimanapun, anda mesti mengesahkan output. Model mungkin menjana JSON yang sedikit rosak.

Sentiasa sahkan hujung fungsi sebelum melaksanakannya. Ini mencegah ralat dalam perkhidmatan hiliran anda. API mengembalikan panggilan fungsi dalam format OpenAI standard. Anda boleh menghuraikan ini menggunakan SDK rasmi.

Uji panggilan fungsi dengan kes sempadan. Model mungkin mencipta hujah jika tidak dibatasi.

Ini adalah ciri model tanpa sensor. Mereka lebih fleksibel, tetapi memerlukan lebih banyak pengesahan. Tetapkan suhu kepada nilai yang lebih rendah untuk penggunaan alat yang konsisten. Ini mengurangkan kemungkinan hujah yang dihallusinasi.

Gunakan mod JSON untuk kekangan output yang lebih ketat. Ini memastikan model hanya mengembalikan JSON yang sah. Ia adalah gabungan berkuasa untuk automasi yang boleh dipercayai.

5. Sahkan Kekangan Mod JSON

Mod JSON memastikan model mengembalikan objek JSON yang sah. Ini kritikal untuk menguraikan respons dalam kod anda. Tetapkan parameter response_format kepada {"type": "json_object"}.

• Dayakan mod JSON untuk data terstruktur.
• Sahkan output sebelum pengekodan.
• Tangani ralat penguraian dengan lembut.

Model tanpa sensor menghormati kekangan ini dengan baik. Ia tidak akan menambah markdown atau teks tambahan di luar JSON. Ini menjadikan penguraian boleh dipercayai dan pantas.

Walau bagaimanapun, mod JSON kadangkala boleh mengurangkan kreativiti model. Ia memaksa model kekal dalam skema. Ini adalah pertukaran yang perlu anda pertimbangkan. Untuk pengekstrakan data yang ketat, ia sangat sesuai. Untuk penulisan kreatif, ia mungkin terasa mengehadkan.

Sentiasa sahkan JSON sebelum menggunakannya. Kesilapan sintaks tunggal boleh memecahkan aplikasi anda.

Gunakan pengesah JSON dalam landasan anda. Ini menangkap ralat awal. API tidak menjamin JSON yang sempurna, tetapi ia sangat boleh dipercayai.

Gabungkan mod JSON dengan panggilan fungsi untuk ketepatan maksimum. Ini memastikan model mengembalikan tepat seperti yang anda jangkakan. Ia adalah alat berkuasa untuk membina aplikasi AI yang boleh dipercayai.

6. Memantau Had Kadar dan Kebolehcayaan

API ini mengenakan had kadar ketat untuk memastikan penggunaan yang adil. Anda dihadkan kepada 300 permintaan setiap minit setiap kunci. Selain itu, anda boleh mempunyai 8 permintaan serentak pada satu masa.

• Pantau kiraan permintaan anda setiap minit.
• Hadkan permintaan serentak kepada 8.
• Tangani ralat 429 Terlalu Banyak Permintaan.

Jika anda melebihi had ini, API akan mengembalikan ralat 429. Anda harus melaksanakan backoff eksponen dalam logik cuba semula anda.

Ini sangat penting untuk sistem pengeluaran. Lonjakan trafik secara tiba-tiba boleh membanjiri aplikasi anda jika tidak diuruskan. Had badan permintaan 8 MB juga penting. Payload besar boleh mencapai had ini dengan cepat.

Laksanakan pemutus litar untuk ralat had kadar. Ini menghalang kegagalan beruntun.

Ini memastikan aplikasi anda kekal stabil. API tidak menawarkan kebenaran letupan (burst allowances), jadi rancang trafik anda dengan sewajarnya.

Gunakan kunci API tunggal per akaun. Jika anda memerlukan lebih kekonkurenan, anda boleh menjana kunci baru, tetapi ia akan menggantikan kunci lama. Ini adalah had yang mudah tetapi berkesan. Pantau penggunaan anda melalui pecahan akhir aliran. Ini memberikan maklum balas masa nyata mengenai penggunaan token anda.

7. Pastikan Penyeragaman Dasar Kandungan

Model tanpa sensor ini tidak menolak kebanyakan topik dewasa atau kontroversial. Walau bagaimanapun, terdapat satu had keras: kandungan seksual yang melibatkan kanak-kanak. Ini sentiasa dikuatkuasakan.

• Periksa kandungan berkaitan kanak-kanak dalam prompt anda.
• Jangka tiada penolakan untuk topik dewasa lain.
• Sahkan output untuk kes penggunaan khusus anda.

Ini menjadikan model sesuai untuk penulisan kreatif dan kandungan dewasa. Anda tidak perlu risau tentang penolakan secara tiba-tiba.

Walau bagaimanapun, "tanpa sensor" tidak bermaksud "tidak ditapis". Model masih boleh menjana kandungan berkualiti rendah atau tidak relevan. Anda mungkin perlu memproses semula output tersebut.

Takrifkan sempadan kandungan anda sendiri. API hanya memaksimumkan had kecil.

Ini memberi anda fleksibiliti tetapi juga tanggungjawab. Sahkan output untuk audiens anda. Gunakan penapis kata kunci mudah jika perlu.

Model ini disesuaikan untuk penggunaan dewasa yang sah. Ia tidak menjamin kesesuaian untuk kanak-kanak. Pastikan anda jelas mengenai kumpulan sasaran anda. Ini memastikan anda mengelakkan aduan yang tidak dijangka. API ini direka untuk pembangun yang tahu apa yang mereka mahukan.

8. Optimumkan Struktur Petunjuk Untuk Panjang

Struktur prompt mempengaruhi prestasi dan kos. Prompt panjang menggunakan lebih banyak token dan meningkatkan latensi. Pecahkan prompt anda kepada bahagian yang lebih kecil jika boleh.

• Kekalkan prompt sistem agar ringkas.
• Gunakan contoh few-shot secara sederhana.
• Buang ruang putih yang tidak perlu.

Model tanpa sensor ini mengendalikan prompt panjang dengan baik, tetapi anda dihadkan oleh tetingkap 100k token. Rancang bajet token anda dengan teliti.

Gunakan parameter suhu untuk mengawal kreativiti. Suhu yang lebih rendah menghasilkan output yang lebih deterministik. Ini berguna untuk panggilan fungsi dan mod JSON.

Uji struktur prompt berbeza. Perubahan kecil boleh meningkatkan kualiti output dengan ketara.

Ini adalah sebahagian penting daripada rekabentuk prompt. Model ini fleksibel, tetapi memerlukan arahan yang jelas. Berikan konteks dan contoh untuk membimbing model.

Pantau penggunaan token dalam setiap permintaan. Ini membantu anda mengenal pasti arahan yang tidak cekap. Optimumkan untuk kelajuan dan kos. Harga API adalah telus, jadi anda boleh mengira kos tepat setiap arahan. Ini membolehkan anda meluaskan skala dengan cekap.

9. Uji dengan Prompt Uncensored yang Representatif

Pengujian adalah langkah akhir sebelum penyebaran. Gunakan prompt yang mencerminkan kes penggunaan sebenar anda. Uji untuk kes standard dan kes sempadan.

• Hantar pelbagai jenis prompt.
• Periksa konsistensi dalam respons.
• Sahkan pengendalian ralat.

Model tanpa sensor harus mengendalikan pelbagai topik. Uji dengan tema kontroversi atau dewasa untuk memastikan tiada penolakan.

Juga uji dengan panggilan fungsi dan mod JSON. Pastikan output boleh ditafsirkan dan betul. Ujian komprehensif ini memastikan pelancaran yang lancar.

Uji dengan data sebenar anda. Data sintetik mungkin tidak mendedahkan semua masalah.

Ini adalah cara terbaik untuk menangkap pepijat awal. API ini boleh dipercayai, tetapi kod anda mungkin mempunyai isu. Sahkan integrasi dari hujung ke hujung.

Gunakan kredit percubaan untuk menguji dengan teliti. Ia memberi anda $0.50 kredit selama 7 hari. Ini cukup untuk menguji kebanyakan senario. Daftar dengan Google atau e-mel untuk bermula. Ini memudahkan pengesahan integrasi anda sebelum berkomitmen.