דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-07·7 דק׳

מדרגי ה-API החדשים של OpenAI לא יסדרו את תור ההשקה שלכם

OpenAI החליפה חמישה מדרגי API בתשלום ב-Build, Launch ו-Grow. למה מדרג גבוה יותר הוא לא תוכנית השקה, ואיך להפריד בין תפוקה, הוצאה, ניסיונות חוזרים ודדליינים של משתמשים.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

OpenAI החליפה חמישה מדרגי שימוש בתשלום ב-API בשלושה: Build, Launch ו-Grow. זה פשוט יותר לקריאה. זה לא אומר לכם אם האפליקציה שלכם יכולה לשרוד השקה.

השאלה השימושית היא לא "באיזה מדרג אני?" אלא "מה קורה למשתמש הבא כשעומס העבודה הזה פוגע בגבול?"

הקצאה גדולה יותר יכולה להזיז את צוואר הבקבוק. היא לא יכולה להחליט איזו עבודה צריכה לחכות, איזו שגיאה ראויה לניסיון חוזר, או מתי תוצאה מאוחרת מדי כדי להיות שימושית. אלה החלטות של האפליקציה.

מה השתנה ב-6 באוקטובר?

יומן השינויים של ה-API של OpenAI מאשר את המעבר ל-Build, Launch ו-Grow ב-6 באוקטובר 2026. הוא אומר שארגונים מתקדמים אוטומטית כשרכישות הקרדיטים המצטברות שלהם מגיעות למינימום של המדרג.

הודעה בפורום המפתחים של OpenAI, שפורסמה על ידי חשבון שמתוייג Leader, אומרת שארגונים קיימים בתשלום עוברים אוטומטית. היא גם אומרת שהמדרג הגבוה ביותר דורש עכשיו 500 דולר בתשלומי API מצטברים, במקום 1,000 דולר. זה סף כשירות, לא מחיר מנוי ולא יתרה חודשית כלולה.

יש כאן נקודת תיעוד שכדאי לומר בפשטות. נכון לסקירה הזאת ב-7 באוקטובר, מדריך מגבלות הקצב שנמשך עדיין הראה את טבלת הכשירות הישנה של חמישה מדרגים. הדיווח של RohitAI והשוואת תיעוד של Spybara מראים את טבלת שלושת המדרגים החדשה. יומן השינויים מקים את השינוי; הגרסאות הסותרות לא מקימות את המגבלות בפועל של הארגון שלכם.

אז לא הייתי מעתיק טבלה ציבורית לתוך קונפיגורציית ייצור. פתחו את Settings > Organization > Limits ובדקו את המודל, הפרויקט ומדרג השירות שאתם באמת משתמשים בהם. המאמר הזה לא בוחן את החשבון של שום ארגון מסוים.

ארבע בקרות שאנשים מכווצים לאחת

"מגבלת ה-API" היא לא דבר אחד. התיעוד של OpenAI על מגבלות קצב ומגבלות הוצאה מפריד כמה בקרות:

בקרהעל מה היא עונהעל מה היא לא עונה
מגבלות קצב של בקשות וטוקניםכמה תעבורה נכנסת בחלון זמן?אם אתם יכולים לעמוד בתעבורה הזאת
מגבלת שימוש חודשית מאושרתכמה שימוש חודשי OpenAI אישרה?כמה אתם רוצים שהפרויקט הזה יוציא
התראת הוצאהמתי מישהו צריך לקבל התראה?מתי בקשות צריכות לעצור
מגבלת הוצאה קשיחה באכיפהמתי התעבורה המושפעת מופסקת?אם כל משתמש קיבל תוצאה שימושית

התראת הוצאה לא עוצרת בקשות. מגבלה קשיחה באכיפה יכולה. מדריך ההוצאות אומר שהגעה למגבלה קשיחה של ארגון או פרויקט מחזירה שגיאת 429 עם קוד מגבלת ההוצאה המתאים. הוא גם מזהיר שהאכיפה לא מיידית, כך שההוצאה המתועדת יכולה לחרוג מעט מהסכום שהוגדר.

זו בקרה שימושית, אבל היא לא מד דיוק והיא לא חוויית משתמש. אם הפרויקט פוגע בתקרה באמצע סשן פעיל, האפליקציה שלכם עדיין צריכה להסביר מה קרה ולשמור עבודה שאפשר לחדש.

שדרוג מדרג והחלטת הוצאה צריכים להיות שינויים נפרדים. תפוקה מותרת גדולה יותר היא לא רשות להוציא יותר.

מדדו את התור לפני שאתם מרימים את התקרה

OpenAI מתעדת גם בקשות לדקה וגם טוקנים לדקה. אפשר לפגוע בכל אחת קודם. מגבלות יכולות לחול ברמת ארגון וברמת פרויקט, להשתנות לפי מודל, ולהיות משותפות על פני חלק ממשפחות המודלים.

הנה עומס עבודה היפותטי, לא בנצ'מרק ולא אמירה על אף מדרג נוכחי של OpenAI:

  • הקצאת הבקשות בפועל היא 600 בקשות לדקה.
  • הקצאת הטוקנים בפועל היא 300,000 טוקנים לדקה.
  • כל עבודה דורשת שתי קריאות מודל.
  • כל קריאה צורכת 5,000 טוקנים מול הקצאת הטוקנים הרלוונטית.

תקציב הבקשות מרמז על מקום ל-300 עבודות לדקה. תקציב הטוקנים מרמז על מקום ל-30 בלבד. תכנון לפי מספר הבקשות בלבד מעריך יתר על המידה את התקרה החשבונית פי עשר.

גם 30 היא לא הבטחה. בקשות אמיתיות משתנות, פרויקטים אחרים עלולים להתחרות על אותו מאגר, ומדריך מגבלות הקצב מתאר הגבלות ramp-rate שיכולות לחול מתחת לתקרות ה-RPM וה-TPM המפורסמות.

לפני השקה, מדדו את ההתפלגות של קריאות וטוקנים לעבודה שהושלמה. כללו ניסיונות כושלים. אחר כך החליטו איזו עבודה יכולה להמתין בתור ואיזו עבודה צריכה בקרת קליטה. ייבוא מסמכים ברקע ומשתמש חי שמחכה לתשובה לא אמורים להתחרות כאילו יש להם אותו דדליין.

התוצר המעשי הוא מדיניות תור, לא מספר גדול יותר בדשבורד:

1. שריינו קיבולת לעבודה אינטראקטיבית.

2. תנו לעבודות רקע תקרת מקביליות נפרדת.

3. הפסיקו לקלוט עבודה כשההמתנה הצפויה שלה עוברת את הדדליין שלה.

4. שמרו מספיק מצב כדי לחדש עבודה שנדחתה בלי להתחיל אותה מאפס.

אלה המלצות עיצוב, לא הבטחות שהמדרגים החדשים מספקים.

429 הוא לא הוראת ניסיון חוזר

התיעוד הנוכחי של OpenAI מתאר כמה כשלים שונים שיכולים להגיע עם אותו סטטוס HTTP. מטפל שגיאות שרואה 429 וישן מפספס את החלק החשוב.

מצב מתועדכיוון התאוששות
צמצום זמני של בקשות או טוקניםלחכות, להוריד לחץ, ולנסות שוב בתוך מדיניות חסומה
429 עם הקוד slow_downהתעבורה האיצה מהר מדי; להוריד קצב ולהעלות הדרגתית
503 עם הקוד server_is_overloadedעומס יתר זמני של המודל; לדחות ולנסות שוב עם השהיה עולה
מגבלת הוצאה של ארגון או פרויקט הושגהלבדוק את התקרה המוגדרת; ניסיונות חוזרים לא משנים אותה
מגבלת שימוש מאושרת או יתרת קרדיטים מוצתהלפתור את מצב השימוש או החיוב במקום ללופ

בדקו את גוף השגיאה ולא רק את הסטטוס. OpenAI אומרת לעקוב אחרי כותרת Retry-After תקפה כשהיא קיימת. בלעדיה, השתמשו ב-backoff עם jitter. הדוגמה של OpenAI Cookbook למגבלות קצב מסבירה למה בקשות כושלות גם נספרות במגבלות הדקה: ניסיונות חוזרים אגרסיביים יכולים להחמיר את הבעיה.

יש עוד טעות קלה. יכול להיות שה-SDK כבר מנסה שוב. הוספת לולאת ניסיונות חיצונית יכולה להכפיל ניסיונות אלא אם משביתים שכבה אחת או סופרים את שתיהן באותו תקציב. המדריך של OpenAI מזהיר במפורש מלולאות ניסיון מקוננות ואומר שהתנהגות הניסיון החוזר משתנה עם גרסת ה-SDK והקונפיגורציה.

שימו תקציב ניסיונות ודדליין כולל מסביב לפעולה. timeout לכל ניסיון הוא לא אותו דבר כמו דדליין לכל העבודה.

אל תשדרו סוכן מחדש בגלל שהרשת השתתקה

עבור סוכן, לניסיון חוזר יש משמעות מעבר לתעבורת API. בקשה יכולה לייצר פלט שמוביל לפעולה חיצונית. אם החיבור נכשל אחרי שהפלט התחיל, חזרה על כל זרימת העבודה עלולה לחזור על הפעולה הזאת.

מדריך מגבלות הקצב של OpenAI מבחין בין שגיאות HTTP לפני שהסטרים מתחיל לבין שגיאות שמגיעות אחרי שהסטרימינג התחיל. הוא אומר לא לשדר מחדש בקשה אוטומטית אחרי שצרכו פלט.

בשכבת האפליקציה, שמרו התאוששות מקריאת מודל נפרדת מהתאוששות מפעולה. שמרו את ההתקדמות של העבודה. לפני חזרה על פעולה חיצונית, בדקו אם היא כבר קרתה והשתמשו במנגנון ה-idempotency של היעד כשקיים כזה.

זו הנחיית יישום, לא טענה שמדרג API מספק ביצוע exactly-once. הוא לא מספק.

מבחן ההשקה שהייתי מריץ

מבחן טרום-השקה שימושי מפעיל בכוונה את המקרים הלא נוחים:

  • לחץ טוקנים מגיע לגבולו בזמן שמספר הבקשות נשאר נמוך.
  • תור רקע צורך קיבולת שעבודה אינטראקטיבית צריכה.
  • הספק מבקש השהיה ארוכה יותר מהדדליין שנותר למשתמש.
  • תקרת הוצאה מוגדרת מפסיקה תעבורה.
  • סטרים נכשל אחרי שפלט חלקי נצרך.
  • worker מופעל מחדש בזמן שעבודה דחויה.

לכל מקרה, בדקו את התוצאה הגלויה למשתמש ואת מצב העבודה השמור. "התהליך לא קרס" חלש מדי. האפליקציה צריכה או לסיים, או לדחות עם מצב ניתן לשחזור, או לעצור עם הסבר ברור. היא לא אמורה להמשיך בשקט לחייב על ניסיונות חוזרים בזמן שהמשתמש מחכה למשהו שכבר לא יכול להגיע בזמן.

שמות המדרגים החדשים הופכים את הגישה לקלה יותר לדיון. מוכנות להשקה עדיין חיה בתור, במטפל השגיאות ובדדליין.

שאלות נפוצות

מהם מדרגי השימוש החדשים בתשלום של OpenAI ב-API?

Build, Launch ו-Grow. יומן השינויים של OpenAI מ-6 באוקטובר מאשר את המעבר מחמישה מדרגים בתשלום לשלושה ואת ההתקדמות האוטומטית לפי רכישות קרדיטים מצטברות.

האם כשירות ל-Grow אומרת שכלולים 500 דולר של שירות API חודשי?

לא. ההודעה בפורום המפתחים מתארת 500 דולר בתשלומי API מצטברים כסף הכשירות. סף כשירות הוא לא יתרה חודשית כלולה או דמי מנוי חוזרים.

איפה כדאי לבדוק את המגבלות בפועל שלי?

בדף Limits של הארגון שלכם, תוך בדיקת המודל והפרויקט שתריצו. טבלאות ציבוריות הן הקשר שימושי, אבל הן לא מקימות דריסות ספציפיות לחשבון או מצב מיגרציה.

האם התראת הוצאה עוצרת תעבורת API?

לא. OpenAI מבחינה בין התראות לבין מגבלות הוצאה קשיחות באכיפה. מגבלה קשיחה מפסיקה בקשות מושפעות; התראה לא.

האם כל 429 צריך ניסיון חוזר?

לא. בדקו את קוד השגיאה. לחץ קצב זמני אולי ניתן לניסיון חוזר; מצבי הוצאה, שימוש וקרדיטים צריכים נתיב התאוששות אחר.

האם אפליקציה יכולה לפגוע בצמצום מתחת למגבלות ה-RPM וה-TPM שלה?

כן. OpenAI מתעדת הגבלות ramp-rate ואת שגיאת slow_down לתעבורה שעולה מהר מדי, אפילו מתחת לתקרות האלה.

האם מדרג גבוה יותר מספיק להשקת סוכן?

לא. הוא יכול להגדיל הקצאות, אבל הוא לא קובע את מדיניות התור, מדיניות ההוצאה, תקציב הניסיונות החוזרים, בדיקות ההתאוששות מפעולות או הדדליינים של המשתמשים שלכם.

מקורות

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS