Чек-лист для впровадження API DeepSeek

Конфігурація точки доступу та базовий URL

Перший крок — вказати ваш клієнт на правильний базовий URL. Ми використовуємо стандартну OpenAI-сумісну структуру, що означає, що ваші існуючі SDK працюють без значного рефакторингу. Встановіть base_url до https://api.deepseekunrestricted.com/v1 та налаштуйте свій API-ключ у заголовку авторизації. Ця настройка гарантує, що всі стандартні кінцеві точки, такі як /v1/chat/completions поводяться точно так, як задокументовано. Вам не потрібно переписувати логіку маршрутизації.

• Базовий URL: https://api.deepseekunrestricted.com/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY
• Ідентифікатор моделі: uncensored

Ця конфігурація дозволяє вам перемикатися між різними моделями, якщо ви розширитеся пізніше, але зараз дотримуйтесь однієї uncensored моделі. Кінцева точка розроблена для операцій text-in, text-out. Вона підтримує стандартні параметри, такі як temperature та top_p. Зберігайте конфігурацію централізованою, щоб уникнути жорсткого кодування URL у кількох місцях. Це зменшує витрати на обслуговування, коли ми оновлюємо версію API.

Розрахунок токенів та оцінка витрат

Оцінка вартості базується на окремому відстеженні входних та вихідних токенів. Структура ціноутворення проста: $0.15 за 1M входних токенів та $0.50 за 1M вихідних токенів. Помилки та відмови не споживають кредити, тому ви платите лише за успішну обробку. Ця передоплачена модель гарантує суворий контроль вашого бюджету. Ви можете поповнити рахунок за допомогою криптовалюти з бонусами за більші суми.

• Вартість вводу: $0.15 за 1M токенів
• Вартість виводу: $0.50 за 1M токенів
• Повернення: Немає, але кредит ніколи не згорає

Завжди моніторьте usage field у відповіді для точного відстеження ваших витрат. Реалізуйте локальний лічильник, щоб оцінити витрати перед надсиланням великих пакетів. Це запобігає несподіваному вичерпанню вашого передоплаченого балансу. Пам’ятайте, що кредит ніколи не закінчується, тому ви можете поповнити його, коли ціни вигідні. Використовуйте бонусні рівні, щоб максимізувати вашу купівельну спроможність. Поповнення на $100 дає 10% додаткового кредиту, що ефективно знижує вашу ставку за токен.

Ефективна обробка потокових відповідей

Потокова передача відповідей покращує користувацький досвід, доставляючи контент поступово. Ми підтримуємо Server-Sent Events (SSE) для доставки токенів у реальному часі. Кожен фрагмент містить частину тексту та метадані. Парсуйте ці фрагменти, щоб плавно оновлювати ваш інтерфейс. Останній фрагмент містить загальне використання токенів для запиту.

• Увімкніть потокову передачу, встановивши stream: true
• Розбирайте формат SSE для часткових оновлень
• Витягуйте дані про використання з останнього фрагмента

Обробляйте потенційні переривання мережі коректно. Повторно надсилайте запити для втрачених фрагментів, якщо це необхідно. Переконайтеся, що ваш парсер ігнорує події, що не містять дані. Цей підхід зменшує сприйнятну затримку для довгих виводів. Він також дозволяє користувачам бачити прогрес, оскільки модель генерує текст. Реалізуйте буфер для агрегації токенів перед рендерингом. Це запобігає мерехтінню в динамічних інтерфейсах. Завжди закривайте з’єднання потоку після отримання останнього фрагмента, щоб звільнити ресурси.

Керування лімітами швидкості та конкурентністю

Обмеження швидкості встановлено для забезпечення стабільної продуктивності для всіх користувачів. Кожному API-ключу доступно 300 запитів за хвилину. Ви можете мати до восьми одночасно активних запитів. Перевищення цих лімітів призводить до помилки 429. Реалізуйте експоненційне сповільнення для ефективного оброблення повторних спроб.

• Ліміт: 300 запитів на хвилину на ключ
• Паралельність: 8 одночасних запитів
• Розмір тіла: максимум 8 МБ

Моніторьте чергу запитів, щоб не досягти ліміту паралельності. Використовуйте семафор або пул потоків для керування паралельними запитами. Логуйте помилки ліміту швидкості, щоб виявляти закономірності. Якщо вам потрібна більша пропускна здатність, розгляньте можливість створення додаткових ключів, хоча кожен обліковий запис обмежений одним активним ключем. Стратегічно змінюйте ключі, щоб розподілити навантаження. Це гарантує, що критичні завдання не блокуються фоновими задачами.

Обробка помилок та логіка повторних спроб

Надійна обробка помилок запобігає збою вашого додатку під час викликів API. Ми повертаємо стандартні коди стану HTTP, щоб вказати на успіх або невдачу. Помилка 4xx зазвичай означає проблему на стороні клієнта, наприклад, недійсний ключ або несправний запит. Помилка 5xx вказує на проблему на стороні сервера, яка може вирішитися сама.

• 4xx: Помилки клієнта (перевірте свій запит)
• 5xx: Помилки сервера (повторіть спробу з експоненційним затриманням)
• 429: Перевищено ліміт швидкості (зачекайте та повторіть спробу)

Реалізуйте механізм повторних спроб із експоненційним уповільненням для тимчасових помилок. Не повторюйте спроби для помилок 4xx, якщо вони не пов’язані з лімітами швидкості. Логуйте деталі помилок для налагодження. Включайте ідентифікатор запиту у свої журнали, щоб допомогти командам підтримки. Це допомагає швидко діагностувати проблеми. Завжди обробляйте таймаути мережі окремо від HTTP-помилок. Невдалий запит не повинен споживати ваш баланс токенів, якщо токени не були оброблені.

Режим JSON для виводу структурованих даних

Режим JSON гарантує, що модель повертає дійсні структури JSON. Це критично важливо для інтеграції з іншими системами, які очікують структуровані дані. Встановіть response_format параметр на {"type": "json_object"}. Це змушує модель дотримуватися правил синтаксису JSON.

• Встановити response_format до json_object
• Перевірте вивід за допомогою JSON-парсера
• Коректно обробляйте порушення схеми

Хоча режим JSON покращує узгодженість, він не гарантує відповідності схемі. Завжди перевіряйте вивід на відповідність вашій очікуваній схемі. Якщо вивід недійсний, повторіть запит із суворішим промптом. Це зменшує потребу в постобробці. Використовуйте цю функцію для таких завдань, як витягування даних або генерація конфігурацій. Вона гарантує, що ваші наступні системи отримуватимуть передбачувані вхідні дані. Ретельно протестуйте логіку парсингу JSON, щоб обробляти крайні випадки.

Виклик функцій та використання інструментів

Виклик функцій дозволяє моделі виконувати конкретні дії на основі вхідних даних користувача. Визначте свої функції в tools параметр. Модель повертатиме об'єкт виклику функції замість звичайного тексту. Ваша програма виконує функцію та повертає результат моделі.

• Визначте функції в tools масив
• Парсуйте відповідь виклику функції
• Поверніть результати, щоб продовжити розмову

Це дозволяє складні робочі процеси, такі як запити до бази даних або пошук у мережі. Переконайтеся, що ваші визначення функцій чіткі та добре задокументовані. Модель покладається на ці визначення, щоб вибрати правильний інструмент. Обробляйте випадки, коли модель викликає невизначену функцію. Це запобігає помилкам у вашій логіці виконання. Використовуйте виклик функцій для розширення можливостей LLM. Він поєднує генерацію мовлення та виконання дій.

Керування вікном контексту

Контекстне вікно визначає, скільки тексту модель може обробити одночасно. Наш API підтримує контекстне вікно на 100,000 токенів. Це включає як промпт, так і відповідь. Звертайте увагу на обмеження максимального обсягу виводу — 16,000 токенів на запит. Якщо ви перевищите цей ліміт, модель обріже відповідь.

• Контекстне вікно: 100,000 токенів
• Максимальний вивід: 16 000 токенів
• Максимальний вивід за замовчуванням: 2 048 токенів

Реалізуйте стратегію ковзного вікна або узагальнення для довгих документів. Це зберігає контекст у межах лімітів, зберігаючи ключову інформацію. Відстежуйте кількість токенів у ваших запитах, щоб уникнути переповнення. Обрізання може призвести до неповних відповідей. Використовуйте max_tokens параметр для керування довжиною виводу. Це допомагає керувати витратами та часом відгуку. Ретельно плануйте свій бюджет токенів, щоб забезпечити достатньо місця для міркувань моделі.

Безпека та обертання ключів

Безпека є пріоритетною при експонуванні вашого API до систем продакшну. Використовуйте змінні середовища для зберігання вашого API-ключа. Уникайте жорсткого кодування його у вихідному коді. Періодично обмінюйте ключі, щоб мінімізувати ризик розголошення. Ми підтримуємо обмін ключів через панель керування.

• Зберігайте ключі у змінних середовища
• Регулярно обертайте ключі
• Моніторьте використання на предмет аномалій

Налаштуйте логування для відстеження використання API та виявлення незвичної активності. Налаштуйте сповіщення для великої кількості запитів. Це допомагає виявити потенційне зловживання або атаки. Оновлюйте версії SDK, щоб отримувати виправлення безпеки. Використовуйте HTTPS для всіх комунікацій з API. Це гарантує шифрування даних під час передавання. Регулярні аудити використання API допомагають підтримувати безпеку.