דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-22·8 דק׳

ה-Decisions API של OpenAI זמין באופן כללי: תשובות מוקלדות, $0.10 למיליון טוקני קלט, ומה לבדוק

OpenAI אומרת שה-Decisions API זמין באופן כללי, בנוי על GPT-6 Luna, מהיר עד פי 10 מה-Responses API לשאלות חסומות, בלי חיובי טוקני פלט. מה פוסט ההשקה והתיעוד אומרים, ואיך לבדוק את זה לניתוב וסיווג.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

OpenAI הפכה את ה-Decisions API לזמין באופן כללי ב-22 באוקטובר. זה endpoint ייעודי לשאלות קטנות עם תשובות חסומות, כמו סווג את זה, נתב את זה, או האם הסוכן צריך לנסות שוב. OpenAI אומרת שהוא מהיר עד פי 10 מקריאה ל-GPT-6 Luna דרך ה-Responses API, ושאתם משלמים רק על טוקני קלט. נתוני המהירות הם טענות של OpenAI והלקוחות שלה, ולא הרצתי את ה-API.

קראתי את פוסט ההשקה, Build more responsive apps with the Decisions API, ואת תחילת המדריך למפתחים, Decisions. לא קראתי את מדריך התמחור, את ה-API reference או את עמודי בקרות הנתונים שהפוסט מקשר אליהם.

מה זה

לפי הפוסט, אתם מגדירים שאלה והתשובות המותרות שלה, ואז נותנים הקשר כטקסט, תמונות או JSON מקורי. ה-API מחזיר אחת משלוש תשובות מוקלדות:

סוגשימושתוצאה
predicateלהעריך אם תנאי נכוןהסתברות מ-0 עד 1
choiceלבחור אחת מהאפשרויות שלכםאחד מהערכים שלכם, בתוספת הסתברויות וביטחון
scoreלדרג מול רמות rubric מסודרותהממוצע המשוקלל-הסתברות של אינדקסי הרמות

המדריך אומר שבקשות הולכות ל-POST /v1/decisions עם gpt-6-luna, שהוא קורא לו המודל הנתמך היחיד כרגע.

מה השתנה מאז הבטא הציבורית

הפוסט מפרט: אינטגרציית GPT-Live מקורית, prompt caching להקשר מנוצל חוזר, שהות inference בארצות הברית והאיחוד האירופי, קלטי JSON מקוריים, תמונות בהוראות השאלה, עד 400 שאלות לבקשה (כפול מהמגבלה הקודמת), וקיבולת נוספת בכמה אזורים אסיאתיים לשיפור חביון. הוא אומר ש-Zero Data Retention זמין ללקוחות זכאים.

מחיר

OpenAI מצהירה על $0.10 למיליון טוקני קלט ו-$0.01 למיליון לקלט מ-cached, בלי חיובי טוקני פלט. היא מפניה למדריך תמחור לפרטי cached-write ואומרת לבדוק שם תעריפים עדכניים. לא קראתי את המדריך ההוא, אז בדקו אותו לפני שאתם מתכננים סביב המספרים.

טענות לקוחות בפוסט

אלה ציטוטים שנבחרו על ידי OpenAI, לא בדיקות עצמאיות:

  • Box אומרת שעל 30 מקרי תעודת ביטוח היא ראתה בחירת נתיב מהירה יותר בערך פי 5 עם אותו דיוק כמו ה-Responses API. שלושים מקרים זה מדגם קטן.
  • Datadog אומרת שהיא משתמשת ב-API כדי לדרג את הסיכון של פקודות shell שנוצרו על ידי סוכן לפני הרצתן, עם p95 מהיר פי 40 ממודלים חזיתיים זמינים בדיוק דומה.
  • Ramp אומרת שייחוס עלויות AI היה מהר פי 4 וזול ב-30% מאשר עם GPT-6 Luna.
  • Sierra אומרת שהיא רצה מתחת ל-280 ms ב-p95, בערך פי 3 מהר יותר ו-90% עלות נמוכה יותר לקריאה מהגישה הקודמת שלה, בלי ירידה בתוצאות לקוחות.
  • Speak אומרת שאינטגרציית GPT-Live קיצרה את הזמן לפעולה הבאה ביותר מ-90%, מ-1.4 שניות ל-0.13 שניות.

כל חברה מתארת את ההתקנה שלה. אף אחד מהמספרים האלה לא עובר לעומס העבודה שלכם אוטומטית.

למה זה מעניין לסוכנים

סוכנים מקבלים הרבה החלטות קטנות בין קריאות המודל הגדולות. תשובה מהירה, זולה ומוקלדת מתאימה שם: לבחור את הפעולה הבאה, להחליט אם לבקש הבהרה, או לדרג פקודה מסוכנת. הדוגמה של Datadog היא הבולטת, כי היא שמה מודל בנתיב של פעולת תיקון. זו טענת הלקוח על השימוש שלו עצמו, והחלטה שגויה שם עולה ביוקר.

מה הייתי בודק

אלה הצעות שלי שלא נבדקו.

1. שחזרו את הלוגים שלכם. קחו קלטים אמיתיים שאתם כבר יודעים את התווית הנכונה שלהם והשוו את Decisions מול השיטה הנוכחית שלכם בדיוק קודם.

2. השתמשו בפלטי הביטחון. סוג ה-choice מחזיר הסתברויות וביטחון. הגדירו סף ושלחו מקרים חסרי-ביטחון לאדם או למודל חזק יותר, שהוא הדפוס ש-Box מתארת.

3. מדדו חביון p95 ו-p99 מהאזור שלכם, לא ממוצעים. בדקו את האזורים שאתם משתמשים בהם.

4. כיילו. בדקו אם הסתברות מוצהרת של 0.9 נכונה בערך 90% מהזמן על הנתונים שלכם.

5. אל תחסמו פעולות מסוכנות על בסיסו לבדו. אם אתם מדרגים סיכון פקודות, שמרו בדיקות מדיניות קשיחות לידו.

6. תמחרו את גדלי הקלט האמיתיים שלכם. קלטים ארוכים עולים יותר גם בלי חיוב פלט. השוו עם העלות הנוכחית שלכם לקריאה.

7. בדקו תנאי נתונים. הסתכלו בעמוד בקרות הנתונים לשהות, שמירה וזכאות ZDR.

מה לא הייתי מסיק

  • שהוא יתאים למודל גדול יותר על משימות פתוחות. הוא בנוי לתשובות חסומות.
  • שהאצה של פי 10 מחזיקה לכל סוג שאלה או גודל קלט.
  • שפלט חינמי אומר שהעלות הכוללת נמוכה. טוקני קלט עדיין נספרים.

שאלות נפוצות

מהו ה-Decisions API?

Endpoint ייעודי של OpenAI שמחזיר הסתברות, בחירה או ציון לשאלה חסומה, לפי פוסט ההשקה.

באיזה מודל הוא משתמש?

GPT-6 Luna, המודל הנתמך היחיד בזמן המדריך שקראתי.

כמה זה עולה?

$0.10 למיליון טוקני קלט ו-$0.01 למיליון קלט מ-cached, בלי חיוב טוקני פלט, לפי OpenAI.

כמה מהר הוא?

OpenAI אומרת עד פי 10 מהר יותר מ-GPT-6 Luna דרך ה-Responses API. נתוני הלקוחות בפוסט משתנים.

כמה שאלות בקשה אחת יכולה להחזיק?

עד 400, לפי הפוסט.

האם הוא עובד עם קול?

כן. הפוסט מתאר אינטגרציית GPT-Live מקורית שמשדרת אירועי החלטה מסשנים חיים.

האם הוא זמין באיחוד האירופי?

הפוסט אומר ששהות inference זמינה בארצות הברית ובאיחוד האירופי. בדקו את עמוד בקרות הנתונים לתנאים.

מקורות

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS