Checklist Produksi API DeepSeek

Konfigurasi endpoint dan URL dasar

Langkah pertama adalah mengarahkan klien Anda ke URL dasar yang benar. Kami menggunakan struktur kompatibel OpenAI standar, yang berarti SDK Anda yang ada berfungsi tanpa refaktor besar. Atur base_url ke https://api.deepseekunrestricted.com/v1 dan konfigurasi kunci API Anda di header otorisasi. Pengaturan ini memastikan bahwa semua endpoint standar seperti /v1/chat/completions berperilaku persis seperti yang didokumentasikan. Anda tidak perlu menulis ulang logika pengalihan Anda.

• URL Dasar: https://api.deepseekunrestricted.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY
• ID Model: uncensored

Konfigurasi ini memungkinkan Anda beralih antara model yang berbeda jika Anda berkembang nanti, tetapi saat ini, tetap pada satu model uncensored. Titik akhir ini dirancang untuk operasi teks masuk, teks keluar. Model ini mendukung parameter standar seperti suhu dan top_p. Pusatkan konfigurasi Anda untuk menghindari pengodean URL secara langsung di beberapa tempat. Ini mengurangi beban pemeliharaan saat kami memperbarui versi API.

Perhitungan token dan estimasi biaya

Estimasi biaya bergantung pada pelacakan token input dan output secara terpisah. Struktur harganya sederhana: $0,15 per 1M token input dan $0,50 per 1M token output. Error dan penolakan tidak menggunakan kredit, jadi Anda hanya membayar untuk pemrosesan yang berhasil. Model pra-bayar ini memastikan anggaran Anda terkontrol dengan ketat. Anda dapat mengisi ulang menggunakan kripto dengan bonus untuk jumlah yang lebih besar.

• Biaya Input: $0,15 per 1M token
• Biaya output: $0.50 per 1M token
• Refund: Tidak ada, tetapi kredit tidak pernah kedaluwarsa

Selalu pantau usage field in the response to track your spend accurately. Implement a local counter to estimate costs before sending large batches. This prevents unexpected depletion of your prepaid balance. Remember that the credit never expires, so you can top up when prices are favorable. Use the bonus tiers to maximize your purchasing power. A $100 top-up gives you 10% extra credit, which effectively lowers your per-token rate.

Menangani respons streaming secara efisien

Responsi streaming meningkatkan pengalaman pengguna dengan mengirimkan konten secara bertahap. Kami mendukung Server-Sent Events (SSE) untuk pengiriman token real-time. Setiap bagian berisi teks parsial dan metadata. Parse bagian-bagian ini untuk memperbarui UI Anda dengan mulus. Bagian terakhir mencakup total penggunaan token untuk permintaan tersebut.

• Aktifkan streaming dengan mengatur stream: true
• Parse format SSE untuk pembaruan parsial
• Ekstrak data penggunaan dari potongan terakhir

Tangani gangguan jaringan potensial dengan baik. Coba ulang potongan yang gagal jika diperlukan. Pastikan parser Anda mengabaikan peristiwa non-data. Pendekatan ini mengurangi latensi yang dirasakan untuk output panjang. Ini juga memungkinkan pengguna melihat kemajuan saat model menghasilkan teks. Terapkan buffer untuk mengumpulkan token sebelum rendering. Ini mencegah flickering dalam antarmuka dinamis. Selalu tutup koneksi aliran setelah menerima potongan terakhir untuk membebaskan sumber daya.

Mengelola batas laju dan konkurensi

Batas laju diterapkan untuk memastikan kinerja stabil bagi semua pengguna. Setiap kunci API dibatasi hingga 300 permintaan per menit. Anda dapat memiliki hingga delapan permintaan konkurensi aktif pada satu waktu. Melebihi batas ini akan menghasilkan error 429. Terapkan backoff eksponensial untuk menangani percobaan ulang secara efektif.

• Batas: 300 permintaan per menit per kunci
• Konkurensi: 8 permintaan simultan
• Ukuran body: maksimal 8 MB

Pantau antrian permintaan Anda untuk menghindari batas konkurensi. Gunakan semafor atau kumpulan utas untuk mengelola permintaan paralel. Catat error batas laju untuk mengidentifikasi pola. Jika Anda membutuhkan throughput yang lebih tinggi, pertimbangkan untuk membuat kunci tambahan, meskipun setiap akun dibatasi hanya satu kunci aktif. Putar kunci secara strategis untuk mendistribusikan beban. Ini memastikan bahwa tugas kritis tidak terhambat oleh pekerjaan latar belakang.

Penanganan kesalahan dan logika coba lagi

Penanganan error yang kuat mencegah aplikasi Anda macet saat panggilan API. Kami mengembalikan kode status HTTP standar untuk menunjukkan keberhasilan atau kegagalan. Error 4xx biasanya berarti masalah sisi klien, seperti kunci tidak valid atau permintaan yang tidak valid. Error 5xx menunjukkan masalah sisi server yang mungkin akan memperbaiki diri sendiri.

• 4xx: Error klien (periksa permintaan Anda)
• 5xx: Kesalahan server (coba lagi dengan backoff)
• 429: Batas kecepatan terlampaui (tunggu dan coba lagi)

Terapkan mekanisme retry dengan backoff eksponensial untuk kesalahan sementara. Jangan mencoba ulang pada kesalahan 4xx kecuali terkait dengan pembatasan kecepatan. Catat detail kesalahan untuk debugging. Sertakan ID permintaan dalam log Anda untuk membantu tim dukungan. Ini membantu mendiagnosis masalah dengan cepat. Selalu tangani timeout jaringan secara terpisah dari kesalahan HTTP. Permintaan yang gagal tidak boleh mengonsumsi saldo token Anda jika tidak ada token yang diproses.

Mode JSON untuk output data terstruktur

Mode JSON memastikan model mengeluarkan struktur JSON yang valid. Ini sangat penting untuk mengintegrasikan dengan sistem lain yang mengharapkan data terstruktur. Tetapkan response_format parameter ke {"type": "json_object"}. Ini memaksa model untuk mematuhi aturan sintaks JSON.

• Atur response_format ke json_object
• Validasi output dengan parser JSON
• Tangani pelanggaran skema dengan baik

Meskipun mode JSON meningkatkan konsistensi, mode tersebut tidak menjamin kepatuhan skema. Selalu validasi output terhadap skema yang Anda harapkan. Jika output tidak valid, coba ulang permintaan dengan prompt yang lebih ketat. Ini mengurangi kebutuhan pascapemrosesan. Gunakan fitur ini untuk tugas seperti ekstraksi data atau generasi konfigurasi. Ini memastikan bahwa sistem hilir Anda menerima input yang dapat diprediksi. Uji logika parsing JSON Anda secara menyeluruh untuk menangani kasus tepi.

Pemanggilan fungsi dan penggunaan alat

Pemanggilan fungsi memungkinkan model mengeksekusi tindakan tertentu berdasarkan input pengguna. Tentukan fungsi Anda di tools parameter. Model akan mengembalikan objek panggilan fungsi alih-alih teks biasa. Aplikasi Anda kemudian mengeksekusi fungsi tersebut dan mengembalikan hasilnya ke model.

• Tentukan fungsi dalam tools array
• Parse respons panggilan fungsi
• Kembalikan hasil untuk melanjutkan percakapan

Ini memungkinkan alur kerja kompleks seperti kueri basis data atau pencarian web. Pastikan definisi fungsi Anda jelas dan terdokumentasi dengan baik. Model bergantung pada definisi ini untuk memilih alat yang benar. Tangani kasus di mana model memanggil fungsi yang tidak terdefinisi. Ini mencegah kesalahan dalam logika eksekusi Anda. Gunakan panggilan fungsi untuk memperluas kemampuan LLM. Ini menjembatani kesenjangan antara generasi bahasa dan eksekusi tindakan.

Manajemen jendela konteks

Jendela konteks menentukan seberapa banyak teks yang dapat diproses model sekaligus. API kami mendukung jendela konteks 100.000 token. Ini mencakup baik prompt maupun completion. Perhatikan batas output maksimum 16.000 token per permintaan. Jika Anda melebihi ini, model akan memotong respons.

• Context window: 100.000 token
• Output maksimal: 16,000 token
• Output maksimum default: 2.048 token

Terapkan strategi jendela geser atau peringkasan untuk dokumen panjang. Ini menjaga konteks tetap dalam batas sambil mempertahankan informasi kunci. Pantau jumlah token dalam prompt Anda untuk menghindari overflow. Pemotongan dapat menyebabkan respons tidak lengkap. Gunakan max_tokens parameter untuk mengontrol panjang output. Ini membantu mengelola biaya dan waktu respons. Rencanakan anggaran token Anda dengan hati-hati untuk memastikan ruang yang cukup untuk penalaran model.

Keamanan dan rotasi kunci

Keamanan sangat penting ketika mengekspos API Anda ke sistem produksi. Gunakan variabel lingkungan untuk menyimpan kunci API Anda. Hindari mengkodekan secara langsung dalam kode sumber Anda. Putar kunci secara berkala untuk meminimalkan risiko paparan. Kami mendukung rotasi kunci melalui dasbor.

• Simpan kunci di variabel lingkungan
• Putar kunci secara teratur
• Pantau penggunaan untuk anomali

Implementasikan logging untuk melacak penggunaan API dan mendeteksi aktivitas mencurigakan. Siapkan peringatan untuk permintaan dengan volume tinggi. Ini membantu mengidentifikasi potensi penyalahgunaan atau serangan. Perbarui versi SDK Anda secara berkala untuk mendapatkan patch keamanan. Gunakan HTTPS untuk semua komunikasi API. Ini memastikan data Anda terenkripsi saat ditransmisikan. Audit rutin terhadap penggunaan API Anda membantu menjaga kebersihan keamanan.