רשימת בדיקה לייצור עם ה-API של DeepSeek

תצורת נקודת קצה וכתובת בסיס

השלב הראשון הוא להפנות את הלקוח שלך לכתובת ה-URL הבסיסית הנכונה. אנחנו משתמשים במבנה התואם ל-OpenAI הסטנדרטי, מה שאומר שה-SDKs הקיימים שלך עובדים ללא רפקטורינג גדול. הגדר את base_url אל https://api.deepseekunrestricted.com/v1 והגדירו את מפת ה-API שלכם בכותרת ההרשאה. הגדרה זו מבטיחה שכל נקודות הקצה הסטנדרטיות כמו /v1/chat/completions מתנהגים בדיוק כפי שמתועד. אינך צריך לכתוב מחדש את לוגיקת הניתוב שלך.

• כתובת בסיס: https://api.deepseekunrestricted.com/v1
• כותרת Auth: Authorization: Bearer YOUR_API_KEY
• מזהה מודל: uncensored

תצורה זו מאפשרת לך להחליף בין מודלים שונים אם תרחיב את הפעילות בעתיד, אך כעת, התמקד במודל היחיד ללא סינון. נקודת הקצה מעוצבת לפעולות של קלט טקסט ופלט טקסט. היא תומכת בפרמטרים סטנדרטיים כמו טמפרטורה ו-top_p. שמור על התצורה במרכזיות כדי להימנע מהטמעת כתובות URL במקומות מרובים. זה מפחית עלויות תחזוקה כאשר אנו מעדכנים את גרסת ה-API.

חישוב טוקנים והערכת עלויות

הערכת עלות מסתמכת על מעקב נפרד אחר טוקני קלט ופלט. מבנה התמחור הוא פשוט: $0.15 לכל 1M טוקני קלט ו-$0.50 לכל 1M טוקני פלט. שגיאות ודחיות לא צורכות קרדיטים, כך שאתה משלם רק על עיבוד מוצלח. מודל זה של תשלום מראש מבטיח שליטה קפדנית על התקציב שלך. ניתן להעלות יתרה באמצעות קריפטו עם בונוסים על סכומים גדולים יותר.

• עלות קלט: $0.15 ל-1M טוקנים
• עלות פלט: $0.50 לכל 1M טוקנים
• החזרים: אין, אך הקרדיט לא פג תוקף

תמיד עקוב אחר ה usage field in the response to track your spend accurately. Implement a local counter to estimate costs before sending large batches. This prevents unexpected depletion of your prepaid balance. Remember that the credit never expires, so you can top up when prices are favorable. Use the bonus tiers to maximize your purchasing power. A $100 top-up gives you 10% extra credit, which effectively lowers your per-token rate.

טיפול יעיל בתגובות זרם

תגובות בזרם משפרות את חווית המשתמש על ידי אספקת תוכן בהדרגה. אנו תומכים ב-Server-Sent Events (SSE) לאספקת אסימונים בזמן אמת. כל נתח מכיל טקסט חלקי ומטא-נתונים. נתח את הנתחים האלה כדי לעדכן את ממשק המשתמש שלך בצורה חלקה. הנתח הסופי כולל את ספירת האסימונים הכוללת לבקשה.

• אפשרו זרימה על ידי הגדרת stream: true
• ניתוח פורמט SSE לעדכונים חלקיים
• חלץ נתוני שימוש מהפיסה האחרונה

טפלו בהפרעות רשת פוטנציאליות בצורה תקינה. נסו שוב chunks שנכשלו אם צריך. ודאו שהמנתח שלכם מתעלם מאירועים שאינם נתונים. גישה זו מפחיתה את הזמן התפסוטי עבור פלטות ארוכות. היא גם מאפשרת למשתמשים לראות התקדמות כאשר המודל מייצר טקסט. יישמו מאגר כדי לצבור טוקנים לפני רנדור. זה מונע ריצוד בממשקים דינמיים. תמיד סגרו את חיבור הזרמה לאחר קבלת ה-chunk הסופי כדי לשחרר משאבים.

ניהול מגבלות קצב ונלוות

מגבלות הקצב מיושמות כדי להבטיח ביצועים יציבים עבור כל המשתמשים. כל מפתח API מוגבל ל-300 בקשות לדקה. ניתן להפעיל עד שמונה בקשות מקבילות בו זמנית. חריגה ממגבלות אלו תגרום לשגיאת 429. מומלץ ליישם החזרה אקספוננציאלית כדי לטפל בניסיונות חוזרים ביעילות.

• מגבלה: 300 בקשות לדקה לכל מפתח
• נציחות מקבילה: 8 בקשות סימולטניות
• גודל גוף: 8 MB מקסימום

נטר את תור הבקשות שלך כדי לא להגיע למגבלת הנלוות. השתמש במנוע נעילה (semaphore) או בבריכת חוטים כדי לנהל בקשות מקבילות. רשום שגיאות הגבלת קצב כדי לזהות תבניות. אם אתה צריך קצב גבוה יותר, שקול ליצור מפתחות נוספים, אם כי כל חשבון מוגבל למפתח אחד פעיל. סובב מפתחות באופן אסטרטגי כדי לפזר עומס. זה מבטיח שמשימות קריטיות לא ייחסמו על ידי משימות רקע.

טיפול בשגיאות ולוגיקת ניסיון חוזר

טיפול שגיאות חזק מונע קריסת האפליקציה שלך במהלך קריאות ל-API. אנו מחזירים קודי סטטוס HTTP סטנדרטיים המציינים הצלחה או כישלון. שגיאה מסוג 4xx מציינת בדרך כלל בעיה בצד הלקוח, כמו מפתח לא חוקי או בקשה מעוותת. שגיאה מסוג 5xx מציינת בעיה בצד השרת שעשויה להיפתר מעצמה.

• 4xx: שגיאות לקוח (בדוק את הבקשה שלך)
• 5xx: שגיאות שרת (נסה שוב עם backoff)
• 429: חריגה ממגבלת הקצב (המתן ונסה שוב)

יישמו מנגנון ניסיון חוזר עם גידול מעריכי (exponential backoff) לשגיאות זמניות. אל תנסו שוב על שגיאות 4xx אלא אם כן הן קשורות למגבלת קצב. רשמו את פרטי השגיאה לניפוי באגים. כללו את מזהה הבקשה ביומנים שלכם כדי לעזור לצוותי התמיכה. זה עוזר לאבחן בעיות במהירות. טפלו תמיד בפעפויי רשת בנפרד משגיאות HTTP. בקשה שנכשלה לא צריכה לצרוך את יתרת האסימונים שלכם אם לא עובדו אסימונים.

מצב JSON לפלט נתונים מבניים

מצב JSON מבטיח שהמודל יפיק מבני JSON תקפים. זה קריטי לשילוב עם מערכות אחרות שצפויות נתונים מבניים. הגדר את response_format פרמטר ל {"type": "json_object"}. זה מכריח את המודל להיצמד לכללי תחביר JSON.

• הגדר response_format אל json_object
• אימות פלט עם מנתח JSON
• טפלו בהפרות סכמה בצורה תקינה

בעוד שמצב JSON משפר עקביות, הוא לא מבטיח עמידה בסכמה. תמיד וודא את הפלט מול הסכמה הצפויה שלך. אם הפלט לא תקין, נסה שוב את הבקשה עם הנחיה מחמירה יותר. זה מפחית את הצורך בעיבוד אחורי. השתמש בתכונה זו למשימות כמו חילוץ נתונים או יצירת תצורה. זה מבטיח שמערכות ה-downstream שלך מקבלות קלטים צפויים. בדוק את לוגיקת הניתוח של JSON שלך לעומק כדי להתמודד עם מקרי קצה.

קריאת פונקציות ושימוש בכלים

פקודות פונקציה מאפשרות למודל להפעיל פעולות ספציפיות בהתאם לקלט המשתמש. הגדירו את הפונקציות שלכם ב tools פרמטר. המודל יחזיר אובייקט קריאה לפונקציה במקום טקסט רגיל. האפליקציה שלך מבצעת את הפונקציה ומחזירה את התוצאה למודל.

• הגדירו פונקציות ב- tools מערך
• נתח את תגובת קריאת הפונקציה
• החזר תוצאות להמשך השיחה

זה מאפשר זרימות עבודה מורכבות כמו שאילתות מסדי נתונים או חיפושי אינטרנט. ודאו שהגדרות הפונקציה שלכם ברורות ומתועדות היטב. המודל מסתמך על הגדרות אלו כדי לבחור בכלי הנכון. טפלו במקרים בהם המודל קורא לפונקציה שלא הוגדרה. זה מונע שגיאות בלוגיקת הביצוע שלכם. השתמשו בקריאת פונקציות כדי להרחיב את יכולות ה-LLM. זה גשר בין יצירת שפה לבין ביצוע פעולות.

ניהול חלון הקשר

חלון ההקשר קובע כמה טקסט המודל יכול לעבד בבת אחת. ה-API שלנו תומך בחלון הקשר של 100,000 טוקנים. זה כולל גם את הפקודה (prompt) וגם את ההשלמה (completion). יש לקחת בחשבון את מגבלת הפלט המקסימלית של 16,000 טוקנים לכל בקשה. אם תחרוגו ממגבלה זו, המודל יחתוך את התגובה.

• חלון הקשר: 100,000 טוקנים
• פלט מקסימלי: 16,000 טוקנים
• פלט מקסימלי ברירת מחדל: 2,048 אסימונים

יישמו אסטרטגיית חלון גולש או סיכום למסמכים ארוכים. זה שומר על ההקשר בתוך המגבלות תוך שמירה על המידע המרכזי. עקבו אחר ספירת האסימונים בהנחיות שלכם כדי להימנע מייצוף. חיתוך יכול להוביל לתגובות לא שלמות. השתמשו ב max_tokens פרמטר לשליטה באורך הפלט. זה עוזר לנהל עלויות וזמני תגובה. תכנן את תקציב הטוקנים שלך בקפידה כדי להבטיח מספיק מקום ללוגיקת הנימוק של המודל.

תחלופת מפתחות אבטחה

אבטחה היא קריטית כאשר חושפים את ה-API שלך למערכות ייצור. השתמש במשתני סביבה לאחסון מפתח ה-API שלך. הימנע מקידוד קבוע שלו בקוד המקור. סובב מפתחות באופן תקופתי כדי למזער את הסיכון לחשיפה. אנו תומכים בתחלופת מפתחות דרך לוח הבקרה.

• אחסן מפתחות במשתני סביבה
• סובב מפתחות באופן קבוע
• בצע מעקב אחר חריגות בשימוש

הטמעת לוגינג למעקב אחר שימוש ב-API וזיהוי פעילות חריגה. הגדרת התראות עבור בקשות בנפח גבוה. זה מסייע בזיהוי שימוש לרעה או התקפות אפשריות. שמור על גרסאות ה-SDK שלך עדכניות כדי ליהנות מפצחי אבטחה. השתמש ב-HTTPS לכל תקשורת ה-API. זה מבטיח שהנתונים שלך מוצפנים במעבר. בדיקות תקופתיות של השימוש ב-API מסייעות בשמירה על היגיינת אבטחה.