DeepSeek API Üretim Kontrol Listesi

Uç nokta yapılandırması ve temel URL

İlk adım, istemcinizi doğru temel URL'ye yönlendirmektir. Standart OpenAI-uyumlu yapıyı kullanırız, bu nedenle mevcut SDK'larınız büyük bir yeniden yapılandırma olmadan çalışır. base_url için https://api.deepseekunrestricted.com/v1 ve API anahtarınızı yetkilendirme başlığında yapılandırın. Bu kurulum, tüm standart uç noktaların /v1/chat/completions belirtildiği gibi davranır. Yönlendirme mantığınızı yeniden yazmanıza gerek yoktur.

• Temel URL: https://api.deepseekunrestricted.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY
• Model Kimliği: uncensored

Bu yapılandırma, ileride genişletirseniz farklı modeller arasında geçiş yapmanıza olanak tanır, ancak şu anda tek bir uncensored modele odaklanın. Uç nokta metin-giriş, metin-çıkış işlemleri için tasarlanmıştır. Sıcaklık ve top_p gibi standart parametreleri destekler. API sürümünü güncellediğimizde bakım yükünü azaltmak için yapılandırmanızı merkezi tutun.

Token hesaplama ve maliyet tahmini

Maliyet tahmini, girdi ve çıktı tokenlarının ayrı ayrı izlenmesine dayanır. Fiyatlandırma yapısı basittir: 1M girdi tokenı başına $0.15 ve 1M çıktı tokenı başına $0.50. Hatalar ve reddetmeler kredileri tüketmez, bu nedenle yalnızca başarılı işleme için ödeme yaparsınız. Bu ön ödemeli model, bütçenizin sıkı bir şekilde kontrol edildiğini sağlar. Daha büyük miktarlar için bonuslarla kripto kullanarak bakiyenizi artırabilirsiniz.

• Girdi maliyeti: 1M token başına $0.15
• Çıktı maliyeti: 1M token başına $0.50
• İadeler: Yok, ancak kredi süresi dolmaz

Her zaman usage field yanıtta harcamanızı doğru takip etmek için. Büyük toplu gönderimlerden önce maliyetleri tahmin etmek için yerel bir sayaç uygulayın. Bu, ön ödemeli bakiyenizin beklenmedik tükenmesini önler. Bakiyenin süresinin dolmadığını unutmayın, bu nedenle fiyatlar uygun olduğunda yükleme yapabilirsiniz. Satın alma gücünüzü en üst düzeye çıkarmak için bonus katmanlarını kullanın. $100'lük bir yükleme, token başına oranı etkili olarak düşüren %10 ekstra bakiye sağlar.

Akış yanıtlarını verimli şekilde işleme

Akış yanıtları içeriği art arda teslim ederek kullanıcı deneyimini iyileştirir. Gerçek zamanlı belirteç teslimi için Sunucu Tarafı Olayları'nı (SSE) destekleriz. Her parça kısmi metin ve meta veri içerir. Arayüzünüzü pürüzsüz şekilde güncellemek için bu parçaları ayrıştırın. Son parça, istek için toplam belirteç kullanımını içerir.

• Ayarlayarak akışı etkinleştirin stream: true
• Kısmi güncellemeler için SSE formatını parse edin
• Son parçadan kullanım verilerini çıkarın.

Potansiyel ağ kesintilerini zarifçe yönetin. Gerekirse başarısız parçaları yeniden deneyin. Çözümleyicinizin veri dışı olayları yok saymasını sağlayın. Bu yaklaşım, uzun çıktılar için algılanan gecikmeyi azaltır. Ayrıca kullanıcılara model metin oluştururken ilerlemeyi görme imkanı tanır. Titreşimleri önlemek için render işleminden önce tokenları birleştirmek üzere bir arabellek uygulayın. Son parçayı aldıktan sonra kaynakları serbest bırakmak için her zaman akış bağlantısını kapatın.

Hız sınırlarını ve eşzamanlılığı yönetme

Rate limitler, tüm kullanıcılar için stabil performans sağlamak amacıyla uygulanır. Her API anahtarı dakikada 300 istekle sınırlıdır. Herhangi bir anda en fazla sekiz eş zamanlı isteğiniz olabilir. Bu limitleri aşmak 429 hatasına neden olur. Yenilemeleri etkili bir şekilde yönetmek için üstel geri çekilme uygulayın.

• Limit: Anahtar başına dakikada 300 istek
• Eşzamanlılık: 8 eşzamanlı istek
• Gövde boyutu: Maksimum 8 MB

Eşzamanlılık sınırına takılmamak için istek kuyruğunuzu izleyin. Paralel istekleri yönetmek için bir yarıçubuk (semaphore) veya iş parçacığı havuzu kullanın.Desenleri belirlemek için hız sınırı hatalarını günlüğe kaydedin. Daha yüksek bir işlem kapasitesine ihtiyacınız varsa ek anahtarlar oluşturmayı düşünün, ancak her hesap yalnızca bir aktif anahtarla sınırlıdır. Yükü dağıtmak için anahtarları stratejik olarak döndürün. Bu, kritik görevlerin arka plan işleri tarafından engellenmemesini sağlar.

Hata yönetimi ve yeniden deneme mantığı

Sağlam hata yönetimi, API çağrıları sırasında uygulamanızın çökmesini önler. Başarı veya başarısızlık durumunu belirtmek için standart HTTP durum kodlarını döndürürüz. 4xx hatası genellikle geçersiz anahtar veya hatalı istek gibi bir istemci tarafı sorununu gösterir. 5xx hatası, kendi kendine çözülebilecek bir sunucu tarafı sorununu belirtir.

• 4xx: İstemci hataları (istersinizi kontrol edin)
• 5xx: Sunucu hataları (geri çekilme ile yeniden dene)
• 429: Hız sınırı aşıldı (bekleyin ve yeniden deneyin)

Geçici hatalar için üstel geri çekilme ile bir yeniden deneme mekanizması uygulayın. 4xx hatalarında, bunlar oran sınırlarıyla ilgili olmadıkça yeniden deneme yapmayın. Hata ayrıntılarını hata ayıklama için günlüğe kaydedin. Destek ekiplerine yardımcı olmak için istek kimliğini günlüklerinize ekleyin. Bu, sorunların hızlı bir şekilde teşhis edilmesine yardımcı olur. Ağ zaman aşımını HTTP hatalarından ayrı olarak her zaman işleyin. Token işlenmediyse başarısız bir istek token bakiyenizi tüketmemelidir.

Yapılandırılmış veri çıktısı için JSON modu

JSON modu, modelin yapılandırılmış veri bekleyen diğer sistemlerle entegrasyon için kritik olan geçerli JSON yapıları çıkarmasını sağlar. Set the response_format parametresi {"type": "json_object"}. Bu, modelin JSON sözdizimi kurallarına uymasını zorlar.

• Ayarla response_format için json_object
• Çıktıyı bir JSON ayrıştırıcısıyla doğrula
• Şema ihlallerini zarifçe yönetin

JSON modu tutarlılığı artırırken, şema uyumunu garanti etmez. Çıktıyı her zaman beklenen şema ile doğrulayın. Çıktı geçersizse, daha sıkı bir prompt ile isteği tekrar deneyin. Bu, son işleme ihtiyacını azaltır. Veri çıkarma veya yapılandırma üretimi gibi görevler için bu özelliği kullanın. Bu, aşağı akış sistemlerinizin öngörülebilir girdiler almasını sağlar. Kenar durumları işlemek için JSON ayrıştırma mantığınızı kapsamlı bir şekilde test edin.

Fonksiyon çağırma ve araç kullanımı

Fonksiyon çağırma modelin kullanıcı girdisine göre belirli eylemleri yürütmesine olanak tanır. Fonksiyonlarınızı tools parametresi. Model, düz metin yerine bir işlev çağrısı nesnesi döndürecektir. Uygulamanız işlevi çalıştırır ve sonucu modele geri döndürür.

• İşlevleri tools dizi
• Fonksiyon çağrı yanıtını ayrıştırın
• Sohbete devam etmek için sonuçları döndürün

Bu, veritabanı sorguları veya web aramaları gibi karmaşık iş akışlarını mümkün kılar. Fonksiyon tanımlarınızın açık ve iyi belgelenmiş olduğundan emin olun. Model, doğru aracı seçmek için bu tanımlara güvenir. Modelin tanımsız bir fonksiyon çağırdığı durumları işleyin. Bu, yürütme mantığınızda hataları önler. LLM'in yeteneklerini genişletmek için fonksiyon çağrısını kullanın. Dil üretimi ile eylem yürütme arasındaki boşluğu doldurur.

Bağlam penceresi yönetimi

Bağlam penceresi, modelin aynı anda işleyebileceği mett miktarını belirler. API'miz 100.000 tokenlık bir bağlam penceresi destekler. Bu hem prompt'u hem de tamamlamayı içerir. İstek başına 16.000 tokenlık maksimum çıktı sınırına dikkat edin. Bu sınırı aşarsanız model yanıtı keser.

• Bağlam penceresi: 100.000 belirteç
• Maksimum çıktı: 16,000 token
• Varsayılan max output: 2,048 token

Uzun belgeler için kayar pencere veya özetleme stratejisi uygulayın. Bu, bağlamı sınırlar içinde tutarken temel bilgileri korur. Taşmayı önlemek için istemlerinizdeki token sayısını izleyin. Kısaltma, eksik yanıtlara yol açabilir. Şunu kullanın max_tokens çıktı uzunluğunu kontrol eden parametre. Bu, maliyetleri ve yanıt sürelerini yönetmeye yardımcı olur. Modelin muhakemesi için yeterli alan sağlamak için token bütçenizi dikkatlice planlayın.

Güvenlik ve anahtar rotasyonu

API'nizi üretim sistemlerine açarken güvenlik esastır. API anahtarınızı ortam değişkenlerini kullanarak saklayın. Kaynak kodunda sabit kodlamaktan kaçının. Açığa çıkma riskini en aza indirmek için anahtarları periyodik olarak döndürün. Anahtar rotasyonunu destekliyoruz panel üzerinden.

• Anahtarları ortam değişkenlerinde saklayın
• Anahtarları düzenli olarak döndürün
• Anomali için kullanımı izleyin

API kullanımını izlemek ve olağan dışı etkinlikleri tespit etmek için günlük kaydı uygulayın. Yüksek hacimli istekler için uyarı kurulumu yapın. Bu, potansiyel kötüye kullanımları veya saldırıları tespit etmenize yardımcı olur. Güvenlik yamalarından yararlanmak için SDK sürümlerinizi güncel tutun. Tüm API iletişimi için HTTPS kullanın. Bu, verilerinizin iletim sırasında şifrelenmesini sağlar. API kullanımınızın düzenli denetimleri, güvenlik hijyenini korumanıza yardımcı olur.