Senarai Semak Pengeluaran API DeepSeek

Konfigurasi titik akhir dan URL asas

Langkah pertama ialah mengarahkan klien anda ke URL asas yang betul. Kami menggunakan struktur serasi OpenAI standard, yang bermaksud SDK sedia ada anda berfungsi tanpa pembaharuan besar. Tetapkan base_url ke https://api.deepseekunrestricted.com/v1 dan konfigurasikan kunci API anda dalam header pengesahan. Tetapan ini memastikan bahawa semua titik akhir standard seperti /v1/chat/completions berkelakuan tepat seperti yang didokumentasikan. Anda tidak perlu menulis semula logik perutean anda.

• URL Asas: https://api.deepseekunrestricted.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY
• ID Model: uncensored

Konfigurasi ini membolehkan anda beralih antara model yang berbeza jika anda berkembang kemudian, tetapi buat masa ini, kekal pada model uncensored tunggal. Titik akhir direka bentuk untuk operasi teks-masuk, teks-keluar. Ia menyokot parameter piaran seperti suhu dan top_p. Pastikan konfigurasi anda berpusat untuk mengelakkan pengkodan URL secara keras di beberapa tempat. Ini mengurangkan beban penyelenggaraan apabila kami mengemas kini versi API.

Pengiraan dan anggaran kos token

Penaksiran kos bergantung pada penjejakan token input dan output secara berasingan. Struktur harga adalah mudah: $0.15 per 1M token input dan $0.50 per 1M token output. Ralat dan penolakan tidak menggunakan kredit, jadi anda hanya membayar untuk pemprosesan berjaya. Model pra-bayar ini memastikan bajet anda dikawal dengan ketat. Anda boleh menambah baki menggunakan kripto dengan bonus untuk jumlah yang lebih besar.

• Kos input: $0.15 per 1M token
• Kos output: $0.50 per 1M token
• Bayaran balik: Tiada, tetapi kredit tidak luput

Sentiasa pantau usage field in the response to track your spend accurately. Implement a local counter to estimate costs before sending large batches. This prevents unexpected depletion of your prepaid balance. Remember that the credit never expires, so you can top up when prices are favorable. Use the bonus tiers to maximize your purchasing power. A $100 top-up gives you 10% extra credit, which effectively lowers your per-token rate.

Mengendalikan respons aliran dengan cekap

Respons aliran meningkatkan pengalaman pengguna dengan menghantar kandungan secara beransur-ansur. Kami menyokong Acara yang Dihantar Pelayan (SSE) untuk penghantaran token masa nyata. Setiap bahagian mengandungi teks separa dan metadata. Uraikan bahagian ini untuk mengemas kini UI anda dengan lancar. Bahagian akhir termasuk jumlah penggunaan token untuk permintaan tersebut.

• Aktifkan aliran dengan menetapkan stream: true
• Huraikan format SSE untuk kemas kini separa
• Ekstrak data penggunaan daripada pecahan terakhir

Tangani gangguan rangkaian berpotensi dengan baik. Cuba semula potongan yang gagal jika perlu. Pastikan parser anda mengabaikan acara bukan data. Pendekatan ini mengurangkan latensi yang dirasakan untuk output panjang. Ia juga membolehkan pengguna melihat kemajuan apabila model menjana teks. Laksanakan penimbal untuk mengagregat token sebelum perenderan. Ini mencegah berkedip dalam antara muka dinamik. Sentiasa tutup sambungan penstriman selepas menerima potongan akhir untuk membebaskan sumber.

Menguruskan had kadar dan keconcurrentan

Had kadar ditadbir untuk memastikan prestasi stabil bagi semua pengguna. Setiap kunci API had kepada 300 permintaan setiap minit. Anda boleh mempunyai sehingga lapan permintaan serentak aktif pada bila-bila masa. Melangkaui had ini akan menghasilkan ralat 429. Laksanakan penarikan balik eksponen untuk mengendalikan cubaan semula dengan berkesan.

• Had: 300 permintaan setiap minit setiap kunci
• Kebolehcang: 8 permintaan serentak
• Saiz badan: Maksimum 8 MB

Pantau barisan permintaan anda untuk mengelakkan mencapai had kekonkurenan. Gunakan semaphore atau kumpulan benang untuk menguruskan permintaan selari. Log ralat had kadar untuk mengenal pasti corak. Jika anda memerlukan kelajuan lebih tinggi, pertimbangkan untuk menjana kunci tambahan, walaupun setiap akaun terhad kepada satu kunci aktif. Putar kunci secara strategik untuk mengagihkan beban. Ini memastikan bahawa tugas kritikal tidak disekat oleh tugas latar belakang.

Penanganan ralat dan logik percubaan semula

Penanganan ralat yang kukoh mencegah aplikasi anda daripada kren semasa panggilan API. Kami mengembalikan kod status HTTP piawai untuk menunjukkan kejayaan atau kegagalan. Ralat 4xx biasanya bermaksud isu sisi klien, seperti kunci tidak sah atau permintaan yang rosak. Ralat 5xx menunjukkan masalah sisi pelayan yang mungkin akan diselesaikan sendiri.

• 4xx: Ralat klien (periksa permintaan anda)
• 5xx: Ralat pelayan (cuba semula dengan penarikan balik)
• 429: Had laju melebihi (tunggu dan cuba semula)

Laksanakan mekanisme percubaan semula dengan penangguhan eksponen untuk ralent sementara. Jangan cuba semula pada ralat 4xx melainkan ia berkaitan dengan had kadar. Log butiran ralat untuk penyahpepijatan. Sertakan ID permintaan dalam log anda untuk membantu pasukan sokongan. Ini membantu mendiagnosis masalah dengan cepat. Sentiasa tangani masa tamat rangkaian secara berasingan daripada ralat HTTP. Permintaan yang gagal tidak sepatutnya menggunakan baki token anda jika tiada token yang diproses.

Mod JSON untuk output data terstruktur

Mod JSON memastikan model mengembalikan struktur JSON yang sah. Ini amat penting untuk berintegrasi dengan sistem lain yang mengharapkan data berstruktur. Tetapkan response_format parameter kepada {"type": "json_object"}. Ini memaksa model mematuhi peraturan sintaks JSON.

• Tetapkan response_format ke json_object
• Sahkan output dengan pengurai JSON
• Tangani pelanggaran skema dengan baik

Walaupun mod JSON meningkatkan konsistensi, ia tidak menjamin pematuhan skema. Sentiasa sahkan output terhadap skema jangkaan anda. Jika output tidak sah, cuba semula permintaan dengan arahan yang lebih ketat. Ini mengurangkan keperluan untuk pemprosesan selepas. Gunakan ciri ini untuk tugas seperti pengekstrakan data atau penjanaan konfigurasi. Ia memastikan sistem hiliran anda menerima input yang boleh diramal. Uji logik pengekod JSON anda dengan teliti untuk mengendalikan kes sempadan.

Pemanggilan fungsi dan penggunaan alat

Panggilan fungsi membolehkan model melaksanakan tindakan khusus berdasarkan input pengguna. Tentukan fungsi anda dalam tools parameter. Model akan memulangkan objek panggilan fungsi bukan teks biasa. Aplikasi anda kemudian melaksanakan fungsi tersebut dan memulangkan hasilnya kepada model.

• Takrifkan fungsi dalam tools array
• Uraikan respons panggilan fungsi
• Kembalikan keputusan untuk meneruskan perbualan

Ini membolehkan aliran kerja kompleks seperti pertanyaan pangkalan data atau carian web. Pastikan definisi fungsi anda jelas dan didokumenkan dengan baik. Model bergantung pada definisi ini untuk memilih alat yang betul. Tangani kes di mana model memanggil fungsi yang tidak ditakrifkan. Ini mencegah ralat dalam logik pelaksanaan anda. Gunakan panggilan fungsi untuk meluaskan kemampuan LLM. Ia merapatkan jurang antara penjanaan bahasa dan pelaksanaan tindakan.

Pengurusan jendela konteks

Tingkap konteks menentukan berapa banyak teks yang boleh diproses oleh model pada satu masa. API kami menyokong tingkap konteks 100,000 token. Ini termasuk sama ada prompt mahupun completion. Ambil perhatian had output maksimum 16,000 token setiap permintaan. Jika anda melebihi had ini, model akan memendekkan respons.

• Tetingkap konteks: 100,000 token
• Output maksimum: 16,000 token
• Output maksimum lalai: 2,048 token

Laksanakan strategi tetingkap gelongsor atau peringkasan untuk dokumen panjang. Ini mengekalkan konteks dalam had sambil mengekalkan maklumat utama. Pantau kiraan token dalam prompt anda untuk mengelakkan limpahan. Pemotongan boleh menyebabkan respons tidak lengkap. Gunakan max_tokens parameter untuk mengawal panjang output. Ini membantu menguruskan kos dan masa respons. Rancang bajet token anda dengan teliti untuk memastikan ruang yang mencukupi untuk penalaran model.

Putaran kunci dan keselamatan

Keselamatan adalah keutamaan apabila mendedahkan API anda kepada sistem pengeluaran. Gunakan pembolehubah persekitaran untuk menyimpan kunci API anda. Elakkan mengkod kerasnya dalam kod sumber anda. Putarkan kunci secara berkala untuk meminimumkan risiko pendedahan. Kami menyokong putaran kunci melalui papan pemuka.

• Simpan kunci dalam pembolehubah persekitaran
• Putar kunci secara kerap
• Pantau penggunaan untuk anomali

Laksanakan log untuk mengesan penggunaan API dan mengesan aktiviti luar biasa. Sediakan amaran untuk permintaan bervolume tinggi. Ini membantu mengenal pasti potensi penyalahgunaan atau serangan. Kekalkan versi SDK anda terkini untuk mendapat faedah pembetulan keselamatan. Gunakan HTTPS untuk semua komunikasi API. Ini memastikan data anda disulitkan semasa transit. Audit berkala terhadap penggunaan API anda membantu mengekalkan kebersihan keselamatan.