Danh sách kiểm tra triển khai API DeepSeek

Cấu hình điểm cuối và URL cơ sở

Bước đầu tiên là trỏ máy khách của bạn đến URL cơ sở đúng. Chúng tôi sử dụng cấu trúc tương thích OpenAI tiêu chuẩn, có nghĩa là các SDK hiện có của bạn hoạt động mà không cần tái cấu trúc lớn. Đặt base_url để https://api.deepseekunrestricted.com/v1 và định cấu hình khóa API của bạn trong tiêu đề xác thực. Thiết lập này đảm bảo rằng tất cả các endpoint tiêu chuẩn như /v1/chat/completions hành xử chính xác như tài liệu. Bạn không cần phải viết lại logic định tuyến của mình.

• Base URL: https://api.deepseekunrestricted.com/v1
• Tiêu đề Auth: Authorization: Bearer YOUR_API_KEY
• ID Mô hình: uncensored

Cấu hình này cho phép bạn chuyển đổi giữa các mô hình khác nhau nếu bạn mở rộng sau này, nhưng hiện tại, hãy chỉ sử dụng mô hình không bị lọc duy nhất. Điểm cuối được thiết kế cho các hoạt động đầu vào văn bản, đầu ra văn bản. Nó hỗ trợ các tham số tiêu chuẩn như temperature và top_p. Hãy giữ cấu hình của bạn tập trung để tránh mã hóa cứng URL ở nhiều nơi. Điều này giảm gánh nặng bảo trì khi chúng tôi cập nhật phiên bản API.

Tính toán token và ước tính chi phí

Ước tính chi phí dựa trên việc theo dõi riêng biệt token đầu vào và token đầu ra. Cấu trúc giá rất rõ ràng: $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Lỗi và từ chối không tiêu thụ tín dụng, vì vậy bạn chỉ trả cho quá trình xử lý thành công. Mô hình trả trước này đảm bảo ngân sách của bạn được kiểm soát chặt chẽ. Bạn có thể nạp tiền bằng tiền điện tử với các khoản bonus cho số tiền lớn hơn.

• Chi phí đầu vào: $0.15 cho mỗi 1M token
• Chi phí Đầu ra: $0.50 trên 1M token
• Hoàn tiền: Không, nhưng tín dụng không bao giờ hết hạn

Luôn giám sát usage field trong phản hồi để theo dõi chi tiêu của bạn một cách chính xác. Triển khai bộ đếm cục bộ để ước tính chi phí trước khi gửi các lô lớn. Điều này ngăn chặn việc cạn kiệt số dư trả trước không mong muốn. Lưu ý rằng số dư không bao giờ hết hạn, vì vậy bạn có thể nạp thêm khi giá cả thuận lợi. Sử dụng các bậc tiền thưởng để tối đa hóa sức mua của bạn. Nạp $100 sẽ cho bạn thêm 10% số dư, điều này hiệu quả làm giảm tỷ lệ token trên mỗi đơn vị.

Xử lý phản hồi phát trực tiếp hiệu quả

Phản ứng streaming cải thiện trải nghiệm người dùng bằng cách gửi nội dung từng phần. Chúng tôi hỗ trợ Server-Sent Events (SSE) để gửi token theo thời gian thực. Mỗi chunk chứa văn bản một phần và siêu dữ liệu. Phân tích các chunk này để cập nhật giao diện người dùng của bạn một cách mượt mà. Chunk cuối cùng bao gồm tổng số token sử dụng cho yêu cầu.

• Bật phát trực tiếp bằng cách đặt stream: true
• Phân tích cú pháp định dạng SSE cho các cập nhật từng phần
• Trích xuất dữ liệu sử dụng từ chunk cuối cùng

Xử lý gracefully các gián đoạn mạng tiềm ẩn. Thử lại các chunk bị lỗi nếu cần. Đảm bảo trình phân tích của bạn bỏ qua các sự kiện không phải dữ liệu. Cách tiếp cận này giảm độ trễ cảm nhận đối với các đầu ra dài. Nó cũng cho phép người dùng thấy tiến trình khi mô hình tạo văn bản. Triển khai bộ đệm để tổng hợp các token trước khi hiển thị. Điều này ngăn ngừa hiện tượng nhấp nháy trong các giao diện động. Luôn đóng kết nối luồng sau khi nhận được chunk cuối cùng để giải phóng tài nguyên.

Quản lý giới hạn tốc độ và độ đồng thời

Giới hạn tốc độ được áp dụng để đảm bảo hiệu suất ổn định cho tất cả người dùng. Mỗi khóa API bị giới hạn ở 300 yêu cầu mỗi phút. Bạn có thể có tối đa tám yêu cầu đồng thời đang hoạt động tại bất kỳ thời điểm nào. Vượt quá các giới hạn này sẽ dẫn đến lỗi 429. Hãy triển khai cơ chế backoff theo cấp số nhân để xử lý việc thử lại một cách hiệu quả.

• Giới hạn: 300 yêu cầu mỗi phút mỗi khóa
• Độ đồng thời: 8 yêu cầu đồng thời
• Kích thước Body: tối đa 8 MB

Theo dõi hàng đợi yêu cầu của bạn để tránh chạm vào giới hạn đồng thời. Sử dụng semaphore hoặc nhóm luồng để quản lý các yêu cầu song song. Ghi lại các lỗi giới hạn tốc độ để xác định các mẫu. Nếu bạn cần thông lượng cao hơn, hãy cân nhắc tạo thêm các khóa, mặc dù mỗi tài khoản chỉ được giới hạn một khóa hoạt động. Xoay khóa một cách chiến lược để phân phối tải. Điều này đảm bảo rằng các tác vụ quan trọng không bị chặn bởi các công việc nền.

Xử lý lỗi và logic thử lại

Xử lý lỗi mạnh mẽ ngăn chặn ứng dụng của bạn bị treo trong các cuộc gọi API. Chúng tôi trả về các mã trạng thái HTTP tiêu chuẩn để báo hiệu thành công hoặc thất bại. Lỗi 4xx thường có nghĩa là sự cố phía máy khách, chẳng hạn như khóa không hợp lệ hoặc yêu cầu bị lỗi cú pháp. Lỗi 5xx cho thấy sự cố phía máy chủ có thể tự khắc phục.

• 4xx: Lỗi máy khách (kiểm tra yêu cầu của bạn)
• 5xx: Lỗi máy chủ (thử lại với độ trễ tăng dần)
• 429: Vượt quá giới hạn tốc độ (đợi và thử lại)

Triển khai cơ chế thử lại với độ trễ tăng dần theo cấp số nhân cho các lỗi tạm thời. Không thử lại với các lỗi 4xx trừ khi chúng liên quan đến giới hạn tốc độ. Ghi lại chi tiết lỗi để gỡ lỗi. Bao gồm ID yêu cầu trong nhật ký của bạn để giúp các nhóm hỗ trợ. Điều này giúp chẩn đoán nhanh các vấn đề. Luôn xử lý các lỗi thời gian chờ mạng riêng biệt với các lỗi HTTP. Một yêu cầu thất bại không nên tiêu tốn số dư token của bạn nếu không có token nào được xử lý.

Chế độ JSON cho đầu ra dữ liệu có cấu trúc

Chế độ JSON đảm bảo mô hình trả về các cấu trúc JSON hợp lệ. Điều này rất quan trọng để tích hợp với các hệ thống khác yêu cầu dữ liệu có cấu trúc. Đặt response_format tham số thành {"type": "json_object"}. Điều này buộc mô hình tuân thủ các quy tắc cú pháp JSON.

• Đặt response_format để json_object
• Xác thực đầu ra bằng trình phân tích cú pháp JSON
• Xử lý gracefully các vi phạm lược đồ

Trong khi chế độ JSON cải thiện tính nhất quán, nó không đảm bảo tuân thủ lược đồ. Luôn xác thực đầu ra dựa trên lược đồ dự kiến của bạn. Nếu đầu ra không hợp lệ, hãy thử lại yêu cầu với một lời nhắc nghiêm ngặt hơn. Điều này làm giảm nhu cầu xử lý hậu kỳ. Sử dụng tính năng này cho các nhiệm vụ như trích xuất dữ liệu hoặc tạo cấu hình. Nó đảm bảo rằng các hệ thống hạ nguồn của bạn nhận được các đầu vào có thể dự đoán được. Hãy kiểm tra kỹ lưỡng logic phân tích JSON của bạn để xử lý các trường hợp cạnh.

Gọi hàm và sử dụng công cụ

Function calling cho phép mô hình thực hiện các hành động cụ thể dựa trên đầu vào của người dùng. Định nghĩa các hàm của bạn trong tools tham số. Mô hình sẽ trả về một đối tượng lệnh gọi hàm thay vì văn bản thuần túy. Ứng dụng của bạn sau đó thực thi hàm và trả kết quả về cho mô hình.

• Định nghĩa các hàm trong tools mảng
• Phân tích phản hồi gọi hàm
• Trả kết quả để tiếp tục cuộc trò chuyện

Điều này cho phép các quy trình làm việc phức tạp như truy vấn cơ sở dữ liệu hoặc tìm kiếm web. Đảm bảo các định nghĩa hàm của bạn rõ ràng và được ghi chú đầy đủ. Mô hình dựa vào các định nghĩa này để chọn công cụ đúng. Xử lý các trường hợp mô hình gọi một hàm chưa được xác định. Điều này ngăn ngừa lỗi trong logic thực thi của bạn. Sử dụng gọi hàm để mở rộng khả năng của LLM. Nó cầu nối khoảng cách giữa việc tạo ngôn ngữ và thực thi hành động.

Quản lý cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh xác định lượng văn bản mà mô hình có thể xử lý cùng một lúc. API của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000 token. Điều này bao gồm cả prompt và kết quả. Hãy lưu ý giới hạn đầu ra tối đa là 16,000 token cho mỗi yêu cầu. Nếu vượt quá giới hạn này, mô hình sẽ cắt ngắn phản hồi.

• Cửa sổ ngữ cảnh: 100,000 token
• Đầu ra tối đa: 16.000 token
• Đầu ra tối đa mặc định: 2.048 token

Triển khai chiến lược cửa sổ trượt hoặc tóm tắt cho các tài liệu dài. Điều này giữ ngữ cảnh trong giới hạn trong khi vẫn bảo toàn thông tin quan trọng. Theo dõi số token trong các lời nhắc của bạn để tránh tràn bộ nhớ. Việc cắt ngắn có thể dẫn đến các phản hồi không đầy đủ. Sử dụng max_tokens tham số để kiểm soát độ dài đầu ra. Điều này giúp quản lý chi phí và thời gian phản hồi. Hãy lập ngân sách token cẩn thận để đảm bảo đủ không gian cho quá trình suy luận của mô hình.

Bảo mật và xoay khóa

Bảo mật là ưu tiên hàng đầu khi đưa API của bạn vào các hệ thống sản xuất. Sử dụng biến môi trường để lưu trữ khóa API của bạn. Tránh mã hóa cứng nó trong mã nguồn. Xoay khóa định kỳ để giảm thiểu rủi ro lộ thông tin. Chúng tôi hỗ trợ xoay khóa thông qua bảng điều khiển.

• Lưu khóa trong các biến môi trường
• Xoay khóa thường xuyên
• Theo dõi mức sử dụng để phát hiện các bất thường

Triển khai logging để theo dõi việc sử dụng API và phát hiện các hoạt động bất thường. Thiết lập cảnh báo cho các yêu cầu có khối lượng lớn. Điều này giúp xác định khả năng sử dụng sai mục đích hoặc tấn công. Luôn cập nhật phiên bản SDK của bạn để tận dụng các bản vá bảo mật. Sử dụng HTTPS cho tất cả các giao tiếp API. Điều này đảm bảo dữ liệu của bạn được mã hóa khi truyền đi. Các cuộc kiểm toán thường xuyên về việc sử dụng API giúp duy trì vệ sinh bảo mật.