Kontrolní seznam pro produkční nasazení API DeepSeek

Konfigurace koncového bodu a základní URL

Prvním krokem je nasměrovat vašeho klienta na správnou základní URL. Používáme standardní strukturu kompatibilní s OpenAI, což znamená, že vaše stávající SDK fungují bez větší refaktorizace. Nastavte base_url na https://api.deepseekunrestricted.com/v1 a nakonfigurujte svůj API klíč v autorizační hlavičce. Toto nastavení zajišťuje, že všechny standardní endpointy jako /v1/chat/completions chovat se přesně podle dokumentace. Nemusíte přepisovat svou logiku směrování.

• Základní URL: https://api.deepseekunrestricted.com/v1
• Hlavička Auth: Authorization: Bearer YOUR_API_KEY
• ID modelu: uncensored

Tato konfigurace vám umožňuje přepínat mezi různými modely, pokud později rozšíříte nasazení, ale nyní se držte jediného modelu bez omezení. Endpoint je navržen pro operace text-vstup, text-výstup. Podporuje standardní parametry, jako je teplota a top_p. Udržujte konfiguraci centralizovanou, abyste se vyhnuli tvrdému kódování URL na více místech. To snižuje náklady na údržbu, když aktualizujeme verzi API.

Výpočet a odhad nákladů na tokeny

Odhad nákladů spočívá v sledování vstupních a výstupních tokenů odděleně. Struktura cen je jednoduchá: $0,15 za 1M vstupních tokenů a $0,50 za 1M výstupních tokenů. Chyby a odmítnutí nespotřebovávají kredity, takže platíte pouze za úspěšné zpracování. Tento předplacený model zajišťuje, že váš rozpočet je přísně kontrolován. Top up můžete provést pomocí kryptoměn s bonusy za větší částky.

• Náklady na vstup: $0,15 za 1M tokenů
• Náklady na výstup: $0,50 za 1M tokenů
• Refundace: Žádné, ale kredit nevyprší

Vždy monitorujte usage pole v odpovědi pro přesné sledování vašich výdajů. Implementujte lokální počítadlo pro odhad nákladů před odesláním velkých dávek. To zabraňuje neočekávanému vyčerpání vašeho předplaceného zůstatku. Pamatujte, že kredit nevyprší, takže můžete doplnit, když jsou ceny příznivé. Využijte bonusové úrovně k maximalizaci své kupní síly. Doplnění za $100 vám dává 10 % extra kreditu, což efektivně snižuje cenu za token.

Efektivní zvládání streamovaných odpovědí

Odpovědi v proudu zlepšují uživatelský zážinek dodáváním obsahu postupně. Podporujeme Server-Sent Events (SSE) pro dodávání tokenů v reálném čase. Každý kus obsahuje částečný text a metadata. Parsovejte tyto kusy pro hladkou aktualizaci vašeho UI. Poslední kus obsahuje celkové využití tokenů pro požadavek.

• Povolte streamování nastavením stream: true
• Parsování formátu SSE pro částečné aktualizace
• Extrahujte data o využití z posledního chunku

Zpracujte potenciální síťová přerušení elegantně. Pokud je to nutné, opakujte selhané kusy dat. Ujistěte se, že váš parser ignoruje události, které nejsou daty. Tento přístup snižuje vnímanou latenci pro dlouhé výstupy. Také umožňuje uživatelům vidět postup, jak model generuje text. Implementujte buffer pro agregaci tokenů před vykreslením. To zabraňuje blikání v dynamických rozhraních. Vždy ukončete spojení streamu po přijetí posledního kusu data, abyste uvolnili zdroje.

Správa limitů rychlosti a souběžnosti

Omezení rychlosti jsou zavedena pro zajištění stabilního výkonu pro všechny uživatele. Každý klíč API je omezen na 300 požadavků za minutu. Můžete mít aktivních až osm souběžných požadavků. Překročení těchto limitů má za následek chybu 429. Implementujte exponenciální backoff pro efektivní zpracování opakování.

• Limit: 300 požadavků za minutu na klíč
• Souběžnost: 8 současných požadavků
• Velikost těla: max. 8 MB

Sledujte frontu požadavků, abyste předešli dosažení kapacity souběžnosti. Použijte semafor nebo pool vláken k řízení paralelních požadavků. Logujte chyby omezení rychlosti, abyste identifikovali vzorce. Pokud potřebujete vyšší propustnost, zvažte vygenerování dalších klíčů, ačkoli každý účet má omezen na jeden aktivní klíč. Strategicky střídejte klíče pro rozložení zátěže. To zajišťuje, že kritické úlohy nejsou blokovány fázovými pracemi na pozadí.

Zpracování chyb a logika opakování

Pevná obsluha chyb zabraňuje pádu vaší aplikace při volání API. Vracíme standardní kódy stavu HTTP, které označují úspěch nebo selhání. Chyba 4xx obvykle znamená problém na straně klienta, jako je neplatný klíč nebo chybný požadavek. Chyba 5xx označuje problém na straně serveru, který se může vyřešit sám.

• 4xx: Chyby klienta (zkontrolujte svůj požadavek)
• 5xx: Chyby serveru (zopakovat s exponenciálním zpomalením)
• 429: Překročen limit rychlosti (počkejte a opakujte)

Implementujte mechanismus opakování s exponenciálním zpomalováním pro přechodné chyby. Nepokoušejte se opakovat chyby 4xx, pokud nesouvisí s limity rychlosti. Chyby logujte pro ladění. Do logů zahrňte ID požadavku, aby vám to pomohlo rychle diagnostikovat problémy. Vždy zpracovávejte časové limity sítě odděleně od HTTP chyb. Selhaný požadavek by neměl spotřebovávat váš zůstatek tokenů, pokud nebyly zpracovány žádné tokeny.

Režim JSON pro výstup strukturovaných dat

Režim JSON zajišťuje, že model vrací platné struktury JSON. To je zásadní pro integraci s jinými systémy, které očekávají strukturovaná data. Nastavte response_format parameter na {"type": "json_object"}. Toto donutí model dodržovat pravidla syntaxe JSON.

• Nastavit response_format na json_object
• Ověřte výstup pomocí parseru JSON
• Zpracujte porušení schématu elegantně

Zatímco režim JSON zlepšuje konzistenci, nezaručuje dodržení schématu. Vždy ověřte výstup proti očekávanému schématu. Pokud je výstup neplatný, opakujte požadavek s přísnějším promptem. To snižuje potřebu následného zpracování. Použijte tuto funkci pro úkoly, jako je extrakce dat nebo generování konfigurace. Zajišťuje, že vaše systémové aplikace dostávají předvídatelné vstupy. Důkladně otestujte svou logiku parsování JSON, abyste zvládli hraniční případy.

Volání funkcí a používání nástrojů

Volání funkcí umožňuje modelu provádět specifické akce na základě vstupu uživatele. Definujte své funkce v tools parameter. Model vrátí objekt volání funkce místo prostého textu. Vaše aplikace poté funkci vykoná a vrátí výsledek modelu.

• Definujte funkce v tools pole
• Parsovejte odpověď volání funkce
• Vrátit výsledky a pokračovat v konverzaci

To umožňuje složité pracovní postupy, jako jsou dotazy do databáze nebo vyhledávání na webu. Ujistěte se, že definice funkcí jsou jasné a dobře zdokumentované. Model se spoléhá na tyto definice pro výběr správného nástroje. Ošetřete případy, kdy model zavolá nedefinovanou funkci. To zabrání chybám ve vaší logice provádění. Používejte volání funkcí k rozšíření možností LLM. Překonává propast mezi generováním jazyka a vykonáváním akcí.

Správa okna kontextu

Okno kontextu určuje, kolik textu dokáže model zpracovat najednou. Naše API podporuje kontextové okno o velikosti 100,000 tokenů. To zahrnuje jak prompt, tak i výstup. Mějte na paměti maximální limit výstupu 16,000 tokenů na požadavek. Pokud tento limit překročíte, model odpověď zkrátí.

• Kontextové okno: 100 000 tokenů
• Maximální výstup: 16 000 tokenů
• Výchozí max výstup: 2 048 tokenů

Implementujte strategii klouzavého okna nebo sumarizace pro dlouhé dokumenty. Tím se udržuje kontext v mezích při zachování klíčových informací. Sledujte počet tokenů ve svých podnětech, abyste předešli přetečení. Ořezání může vést k neúplným odpovědím. Použijte max_tokens parametr pro řízení délky výstupu. To pomáhá řídit náklady a časy odpovědí. Pečlivě naplánujte svůj rozpočet tokenů, abyste zajistili dostatek místa pro uvažování modelu.

Obnova klíčů

Bezpečnost je klíčová při vystavování vašeho API produkčním systémům. Používejte proměnné prostředí pro ukládání vašeho API klíče. Vyhněte se jeho pevnému zakódování ve zdrojovém kódu. Pravidelně obnovujte klíče, abyste minimalizovali riziko odhalení. Podporujeme obnovu klíčů prostřednictvím ovládacího panelu.

• Ukládejte klíče do proměnných prostředí
• Pravidelně otáčejte klíči
• Sledujte využití na anomálie

Implementujte logování pro sledování využití API a detekci neobvyklé aktivity. Nastavte upozornění pro vysoký objem požadavků. To pomáhá identifikovat potenciální zneužití nebo útoky. Udržujte verze SDK aktuální, abyste využili bezpečnostní záplaty. Používejte HTTPS pro všechny komunikace s API. To zajišťuje, že jsou vaše data šifrována při přenosu. Pravidelné audity využití API pomáhají udržovat bezpečnostní hygienu.