דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-10·7 דק׳

GPT-6.1 Sol Ultrafast עולה פי 6 יותר תמורת עד פי 8 מהירות. החליטו איפה חביון שווה קנייה

OpenAI הוסיפה מדרג Ultrafast ל-GPT-6.1 Sol. הנה מה המחיר המפורסם, מגבלות התוכנית וטענת המהירות אומרים, ודרך פשוטה להחליט אילו צעדי סוכן ראויים לנתיב מהיר ויקר יותר.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

מצב Ultrafast החדש של OpenAI ל-GPT-6.1 Sol הוא רכישת מהירות, לא הנחה. OpenAI אומרת שהוא רץ עד פי 8 מהר מ-Sol Standard. מחיר ה-API הוא פי 6 מ-Standard.

העסקה ההיא יכולה להיות נכונה. היא יכולה גם להיות דרך יקרה להאיץ צעד שאף אחד לא חיכה לו.

השאלה השימושית היא לא "האם להדליק את זה?" אלא "אילו צעדים במוצר שלי יש אדם או דדליין שמחכים להם?"

מה OpenAI פרסמה

ב-8 באוקטובר, OpenAI הכריזה ש-Ultrafast נפרס ל-GPT-6.1 Sol ב-API, ב-Codex וב-ChatGPT Work. פוסט ההכרזה מתאר אינטליגנציה קרובה ל-Astra במהירויות של עד פי 8 מ-Sol Standard. הוא מזכיר דיבאגינג של תקלה, סוכנים שמנווטים אפליקציות, וחוויות חיות כמקרי השימוש המיועדים.

אותו פוסט נותן את מחיר ה-API: $12 למיליון טוקני קלט ו-$60 למיליון טוקני פלט, שהוא מתאר כפי 1.2 מעלות Astra.

עמוד המודל GPT-6.1 Sol מפרט תמחור טקסט Standard ב-$2 למיליון טוקני קלט ו-$10 למיליון טוקני פלט. הוא אומר שמחירי Ultrafast הם פי 6 מ-Standard ומחירי מצב Fast הם פי 2 מ-Standard. הוא גם אומר שפרומפטים מעל 272K טוקני קלט מתומחרים בפי 2 תעריפי קלט ומטמון ובפי 1.5 פלט לכל הבקשה.

כדי להדליק את זה ב-API, עמוד המודל אומר להשתמש ב-model: "gpt-6.1-sol" עם service_tier: "ultrafast" ב-Responses API.

מספר המהירות הוא של OpenAI עצמה. DigIntoAI מציין שמספר ה-8x לא נמדד בעצמאות, וש-OpenAI לא פרסמה מספרי מהירות נמדדים בזמן הדיווח שלו. לא הרצתי benchmark משלי למאמר הזה.

המחיר בחשבון פשוט

קחו בקשה היפותטית עם 20,000 טוקני קלט ו-2,000 טוקני פלט, במחירי הקונטקסט-הקצר המפורסמים ובהתעלמות ממטמון:

מצבעלות קלטעלות פלטסך הכל
Standard$0.04$0.02$0.06
Ultrafast$0.24$0.12$0.36

ההפרש הוא $0.30 לקריאה האחת ההיא. זה לא הרבה לבקשה בודדת שאדם צופה בה. זה הרבה על פני עבודת לילה שעושה עשרות אלפי קריאות.

אם נתון הספק היה מחזיק לעומס העבודה שלכם, תגובה של עשר שניות הייתה לוקחת בערך 1.25 שניות. אם זה שווה $0.30 תלוי מי חיכה.

המספרים האלה הם המחשה של חשבון התמחור. הם לא מדידה של שום עומס עבודה אמיתי.

איפה מהירות שווה קנייה

פלט מהיר יותר עוזר הכי הרבה כשחביון הוא חלק מהמוצר או חלק מלולאת העבודה של מישהו.

  • אדם מנהל את העבודה. קידוד אינטראקטיבי, דיבאגינג חי ולולאות סקירה כולם מדרדרים כשכל תיקון לוקח המתנה ארוכה. הדוגמאות של OpenAI עצמה מכוונות לכאן.
  • שרשרת של קריאות תלויות. סוכן שעושה קריאות כלי רבות ברצף משלם את העיכוב בכל צעד. DigIntoAI אומר ש-OpenAI ממליצה WebSockets לאפליקציות כאלה כי תקורת חיבור יכולה לאכול מרווח המהירות.
  • דדליין מחוץ לשליטתכם. תגובה לאירוע, שיחת לקוח חיה, או משימה עם מסגרת זמן.

זה עוזר הכי פחות כשאף אחד לא קורא את התוצאה עד מאוחר יותר. סיכום באצווה, סיווג לילי וייצור דוחות מתוזמן לרוב לא צריכים מדרג פרמיום. עמוד המודל עצמו מפרט מחירי Batch ו-Flex כ-50% נמוכים מ-Standard, מה שמכוון לכיוון ההפוך.

כלל מעשי: שלמו על חביון בנתיב הקריטי, ושמרו כל השאר על Standard, Fast או Batch.

למה מודל מהיר יותר הוא לא תמיד מוצר מהיר יותר

זמן כולל כולל יותר מייצור טוקנים. רשת, הרצת כלים, שליפה, רינדור והתור שלכם עצמכם כולם מצטברים.

DigIntoAI מדווח שחלק מהבודקים המוקדמים ראו מהירויות נמוכות בהרבה מהמובטח, כולל בערך 49 טוקנים לשנייה ב-Playground של OpenAI. הוא אומר שמהנדס OpenAI ייחס את זה לרינדור Playground ולהתנהגות רשת, וש-OpenAI שילחה שינויי רינדור ל-Playground. התייחסו לזה כתזכורת למדוד מקצה לקצה, לא כפסק דין על התכונה.

אז בדקו את כל הנתיב. מדדו את הצעד הגלוי-למשתמש, לא רק את קריאת המודל.

הערה על speculative decoding

ניוזלטרים השבוע צימדו את חדשות Ultrafast עם הסבר פופולרי על speculative decoding. היזהרו לא לחבר ביניהם. לא מצאתי מקור של OpenAI בחומר שסקרתי שאומר איך Ultrafast משיג את המהירות שלו.

ההסבר עדיין רקע שימושי. בפוסט של Joe Barrow, speculative decoding אומר שמודל טיוטה קטן מציע רצף והמודל הגדול מאמת אותו במעבר קדמי אחד. הנקודה של Barrow היא שהוא לא עושה פחות עבודה. הוא עושה יותר עבודה, אבל משנה את סוג העבודה שה-GPU עושה, מה שעוזר בגדלי אצווה קטנים.

זה מנגנון כללי. הוא לא אומר כלום על מה שבתוך Ultrafast.

מגבלות תוכנית ב-Codex וב-ChatGPT Work

ה-API והאפליקציות הם לא אותה הצעה. לפי ההכרזה של OpenAI, גישת Codex ו-ChatGPT Work זמינה בתוכניות Pro 500, Enterprise מבוסס-שימוש מתאים, ו-Edu מבוסס-קרדיטים. מנהלי Enterprise חייבים להפעיל את זה.

DigIntoAI מוסיף פרטים מהתיעוד של OpenAI: תוכניות self-serve אחרות לא מקבלות את זה בהשקה אפילו עם קרדיטים שנקנו, ו-Ultrafast נספר כלפי מגבלות המנוי הכלולות בקצב של פי 8 מ-Standard בעוד חשבונות לקרדיטים שנקנו ושימוש Enterprise pay-as-you-go רצים בפי 6. אמתו את התנאים האלה מול התוכנית שלכם לפני שמסתמכים עליהם, כי תנאי תוכנית יכולים להשתנות.

מקום נתונים הוא גם חלק מהסיפור. ההכרזה אומרת ש-Ultrafast ל-GPT-6.1 Sol זמין בכל האזורים הנתמכים, כולל מקום נתונים US ו-EU.

מבחן קטן לפני שמדליקים

הריצו את אותה סדרת משימות פעמיים, פעם על Standard ופעם על Ultrafast. השתמשו בפרומפטים שלכם, לא בדמו.

1. בחרו שלושה או ארבעה צעדים שאדם או דדליין באמת מחכים להם.

2. רשמו זמן לטוקן ראשון, זמן כולל לתשובה שמישה, והזמן מקצה לקצה שהמשתמש רואה.

3. רשמו טוקני קלט ופלט לכל קריאה, והמחיר בכל מדרג.

4. תנו ציון לאיכות הפלט עם אותה רובריקה בשני הריצות.

5. חשבו עלות נוספת לשנייה שנחסכה לכל צעד.

המספר האחרון הוא זה שכדאי להסתכל עליו. אם צעד חוסך עשר שניות תמורת $0.30, זרימה פונה-אדם אולי מצדיקה את זה. אם הוא חוסך שתי שניות על עבודת רקע, לא.

שמרו גם מגבלות קצב במבחן. DigIntoAI מדווח מגבלות ברירת מחדל נפרדות ל-Ultrafast, אז בדקו את המדרג שלכם במקום להניח שמגבלות Standard חלות.

מה לא הייתי מסיק עדיין

אל תסיקו ש-Ultrafast משנה איכות מודל. הניסוח של OpenAI הוא "אינטליגנציה קרובה ל-Astra", שזו טענת ספק לאימות על המשימות שלכם. עמוד המודל עצמו אומר לקוראים להשוות את המודל עם Astra על המשימות שלהם כדי להעריך את פשרת האיכות והעלות.

אל תסיקו שמהירות פי 8 אומרת פרודוקטיביות פי 8. תשובה מהירה יותר לצעד שנבחר גרוע היא עדיין צעד שנבחר גרוע.

ואל תדליקו את הנתיב היקר בכל מקום כברירת מחדל. הפכו את זה להחלטת ניתוב, עם סיבה לכל מקום שהוא בשימוש.

שאלות נפוצות

מהו GPT-6.1 Sol Ultrafast?

זה מצב שירות מהיר יותר ל-GPT-6.1 Sol. OpenAI מתארת אותו כאינטליגנציה קרובה ל-Astra בעד פי 8 מהירות של Sol Standard.

כמה עולה Ultrafast ב-API?

ההכרזה של OpenAI מפרטת $12 למיליון טוקני קלט ו-$60 למיליון טוקני פלט. עמוד המודל אומר ש-Ultrafast הוא פי 6 מתמחור Standard.

איך מפעילים את זה?

עמוד המודל אומר להגדיר service_tier: "ultrafast" עם model: "gpt-6.1-sol" ב-Responses API.

טענת המהירות פי 8 מאומתת?

זו טענה של OpenAI. DigIntoAI מדווח שהיא לא נמדדה בעצמאות. בדקו אותה על עומס העבודה שלכם.

Ultrafast משתמש ב-speculative decoding?

לא הצלחתי לאשר את זה מהמקורות שנסקרו. Speculative decoding היא טכניקה כללית נפרדת המוסברת בפוסט של Joe Barrow.

מי יכול להשתמש בזה ב-Codex וב-ChatGPT Work?

ההכרזה של OpenAI מזכירה תוכניות Pro 500, Enterprise מבוסס-שימוש מתאים, ו-Edu מבוסס-קרדיטים, עם הפעלת מנהל Enterprise נדרשת.

מתי שווה לשלם על זה?

כשאדם או דדליין מחכים לצעד, ובמיוחד כשקריאות תלויות רבות מצטברות. עבודת רקע ואצווה שייכות בדרך כלל למדרג זול יותר.

מקורות

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS