בלי לשלם על פלט: הניתוב של OpenAI זול בהרבה
ממשק Decisions API לוקח את GPT-6 Luna ומגביל אותו לסיווגים ובחירה בלבד, מקצץ את זמני השיהוי ומבטל לחלוטין את החיוב על טוקנים חוזרים.
- בדקו שאילתת ניתוב אחת ב-Decisions Playground ומדדו את זמני השיהוי מהשרת שלכם לפני שאתם מחליפים קריאות LLM בפרודקשן.
כשמבקשים ממודל שפה ענקי רק להחליט אם פנייה של לקוח שייכת לתמיכה או למכירות, הוא נוטה לפטפט. מתכנתים משלמים על מילות נימוס, על תגיות JSON סביב התשובה ועל זמני המתנה מיותרים. אתמול, 22 באוקטובר 2026, OpenAI השיקה רשמית את Decisions API במצב זמינות כללית, ומציעה לחתוך את השומן הזה בדיוק איפה שצריך.
סיווג במקום פטפוט
המוצר החדש מבוסס על GPT-6 Luna, אבל במקום לאפשר יצירת טקסט חופשי, הוא מגביל את המודל לשאלות עם תשובות מוגדרות מראש. ארכיטקטורות של סוכני AI וצנרות נתונים מורכבות מעשרות החלטות ביניים קטנות בכל תהליך, החל מסיווג קלט, דרך בדיקת תקינות ועד לבחירת הפעולה הבאה. בשימוש בקריאות LLM סטנדרטיות, כל צומת כזה מייצר צוואר בקבוק של שניות ארוכות ועלויות שנערמות. לפי נתוני החברה, הפשטת המודל והכוונתו לתשובות סגורות בלבד מאפשרות לו להחזיר החלטה במהירות של עד פי 10 ביחס לממשק Responses API המלא.
עם Box Extract ו-Decisions API, אנחנו מסווגים מסמכים עסקיים ומנתבים אותם לצעד הבא הנכון. בהערכה שלנו, Decisions API סיפק בחירת ניתוב מהירה פי 5 בערך ב-30 מקרים של תעודות ביטוח, באותה רמת דיוק כמו ממשק Responses API.ביסווארופ פאליט, סגן נשיא למוצר ב-Box, בהודעת ההשקה של OpenAI
היכולת הזו עובדת מול טקסט, תמונות או ישירות מול קובצי JSON מובנים. המערכת תומכת כעת בשליחה של עד 400 שאלות בבקשה אחת, כפול מהמגבלה בתקופת הבטא. ברגע שהמודל ממוקד רק בלהגיד כן, לא, או לבחור מפתח מתוך רשימה, השרתים לא צריכים לבזבז זמן על דגימת טוקנים עוקבת.
אפס דולר על התשובה
בממשק החדש אתם משלמים רק על הקלט, בעוד שטוקנים של פלט מתומחרים בדיוק באפס דולר. לפי דף המחירים של OpenAI, החיוב עומד על 0.10 דולר למיליון טוקנים רגילים של קלט. אם אתם עושים שימוש נכון בזיכרון מטמון עבור הוראות קבועות או הקשר שחוזר על עצמו, המחיר צונח ל-0.01 דולר למיליון טוקנים. פלט המודל לא עולה לכם אגורה, פשוט כי אין שם טוקנים במובן המוכר של טקסט שנפלט.
זה שינוי כלכלי מהותי למי שבונה סוכנים מורכבים.
למשתמשים שכותבים מערכות בעברית יש כאן רווח כספי מובהק. עברית סובלת מפירוק לא יעיל ברמת הטוקנייזר, תופעה שגוזרת לרוב תשלום יתר של פי שניים או שלושה על כל מילה שנוצרת. כשהפלט מוחזר כערך בוליאני או כאינדקס מספרי מוגדר, מס הטוקנים הישראלי על הפלט מתבטל לגמרי.
שלושה סוגי פלט בלבד
במקום לבקש מהמודל תשובה ולבצע parsing מסובך כדי לחלץ את מה שרציתם, הדוקומנטציה של Decisions API מגדירה שלושה מבני החזרה קבועים: predicate, choice ו-score. המבנה הראשון מעריך הסתברות של תנאי בודד במספר שנע בין 0 ל-1, למשל האם תמונה מציגה נזק פיזי. המבנה השני בוחר אפשרות אחת מתוך רשימה סגורה שהגדרתם, כולל ציון ביטחון והסתברויות לכל אפשרות, מתאים לניתוב פניות. המבנה השלישי מייצר ציון משוקלל על פני סולם מוגדר כדי לדרג חומרה או איכות.
| סוג החלטה | מה שולחים | מה מקבלים | תרחיש שימוש אופייני |
|---|---|---|---|
| predicate | שאלה על תנאי יחיד | הסתברות בין 0 ל-1 | בדיקת קיום נזק בתמונה או אימות עובדה |
| choice | שאלה ורשימת אפשרויות סגורה | ערך נבחר, הסתברויות ורמת ביטחון | ניתוב פניות תמיכה או בחירת פעולת סוכן |
| score | שאלה וסולם רמות מדורג | ממוצע משוקלל הסתברותי של הדרגות | דירוג חומרת תקלה או הערכת סיכון פקודה |
הממשק חובר גם ישירות למערכת הקולית GPT-Live, מה שמאפשר לסוכנים קוליים לקבל החלטות ביניים תוך כדי שיחה חיה בלי לעצור את הזרמת הדיבור. ב-Speak, למשל, דיווחו שהחיבור הזה חתך את זמן התגובה לבחירת הפעולה הבאה מ-1.4 שניות ל-0.13 שניות בלבד. אפילו אנשי Datadog משתמשים במנגנון כדי לדרג סיכוני פקודות לפני הרצתן בזמן אמת.
ההבטחות מול השיהוי בפועל
ב-OpenAI מתגאים בביצועים מהירים במיוחד, אבל כדאי לצנן מעט את ההתלהבות. הטענה לזמני תגובה של כ-150 מילישניות או פי עשרה מהירות נמדדת כשהשרת יושב ממש ליד המודל. עבור משתמשים ישראלים, עיבוד הנתונים מתבצע בארצות הברית או באיחוד האירופי בלבד, ואין ל-OpenAI נקודת קצה מקומית בארץ. שיהוי הרשת הפיזי מעבר לים יקזז חלק ניכר מהשיפור, במיוחד אם אתם תלויים בעשרות קריאות טוריות.
בנוסף, החברה לא פרסמה נתוני כיול הסתברותי מלאים. כלומר, לא ברור האם ההסתברות המוחזרת מייצגת ודאות סטטיסטית אמיתית או רק תוצאת Softmax משכבות המודל. אם המערכת שלכם זקוקה לניסוח תשובה, סיכום טקסט, הפקת קוד או שיקול דעת מורכב שדורש שרשרת חשיבה מילולית, הכלי הזה כלל לא רלוונטי עבורכם ותצטרכו להישאר במודלים הרגילים.
אני לא הייתי ממהר להחליף את כל צנרת הניתוב בלי לבדוק היטב את התוצאות.
צעד ראשון במגרש המשחקים
אם יש לכם צמתי ניתוב שכבר היום שורפים כסף על קריאות רגילות, שווה לבדוק את הממשק. במקום לשנות קוד במערכת חיה, פתחו את Decisions Playground ונסו שאילתת ניתוב אחת קבועה עם דוגמאות מציאותיות. הגדירו את השאלה, הזינו נתוני קלט אמיתיים ובדקו אם המודל מזהה נכון את הבחירה הרצויה.
לפני שמחליפים את הקוד בפרודקשן, מדדו את זמני השיהוי בפועל מהתשתיות שלכם ואת אחוזי הדיוק בהשוואה למודל הישן. אם אתם צריכים לאחסן מידע בארץ בלבד מטעמי רגולציה, קחו בחשבון שזה עדיין לא נתמך. בינתיים, החשבון החודשי שלכם לפחות יפסיק לשלם על מילות קישור של מכונה.
מה שואלים על זה
- Build more responsive apps with the Decisions APIopenai.com · המקור
- Decisionsdevelopers.openai.com · קריאה נוספת
- GPT‑6 Lunaopenai.com · מקושר מההודעה
- GPT‑Liveopenai.com · מקושר מההודעה
- Decisions Playground(opens in a new window)platform.openai.com · מקושר מההודעה
- read our pricing guide.(opens in a new window)developers.openai.com · מקושר מההודעה
24 עובדות בכתבה נבדקו אחת־אחת מול המקורות המקושרים ומול חיפוש ברשת ב־23 באוקטובר 2026. מה שלא אומת הוסר או מסומן כטענה של החברה. הכתיבה נעשתה בעזרת AI מהמקורות האלה בלבד, בעריכה ובאחריות של סלבה מלנדוביץ׳. טעות? כתבו לנו.