מיקרוסופט חותכת את שיהוי הסוכנים אבל נועלת את ההחלטות בענן

רוב השיחות עם מודלי שפה כבדים הן בזבוז מוחלט של כסף וזמן. מפתחים שולחים מאות טוקנים רק כדי לקבל חזרה מילה אחת כמו 'כן', 'לא' או מספר קטגוריה, ומחכים חצי שנייה עד שהמודל יסיים להתלבט ולייצר טקסט מיותר. עכשיו מיקרוסופט מצטרפת למרוץ מודלי הדירוג ומנסה לחסל את תופעת הלוואי הזו. לפי דיווח באתר The Decoder, החברה השיקה מודל בשם Microsoft-Decision-1 שמיועד לקבלת החלטות מהירות ומובנות, בלי לכתוב אף מילה של טקסט חופשי.

זה עובד אחרת.

מספרים במקום פטפוטים

במקום לתפקד כמודל יוצר, המערכת בנויה כמודל סיווג שמעריך אפשרויות נתונות מראש. הארכיטקטורה מתבססת על Qwen בגרסת Qwen3.5-9B של עליבאבא שעברה אימון המשך ייעודי של מיקרוסופט, תוך שימוש במאגרי מידע פומביים בכפוף לנהלי המידע הפתוח של החברה ונתונים סינתטיים שפותחו על ידי הצוות. הקלט יכול להגיע עד 32,768 טוקנים של חלון הקשר, אבל הפלט מוחזר במעבר יחיד כערכי הסתברות מכוילים בפורמט JSON עבור שאלות סגורות, דירוגים מספריים, סיווגים או עצי החלטה מוגדרים מראש.

בהינתן סיטואציה ושאלה עם סט קבוע של אפשרויות תשובה, הוא מחזיר הסתברות מכוילת לכל אפשרות במקום טקסט מיוצר.דף המוצר ב-Microsoft Foundry

השימוש המרכזי כאן אינו שיחה עם משתמשי קצה, אלא פיקוח פנימי: גדרות בטיחות, בדיקת איכות של תשובות, ניתוב שיחות ובדיקה אם פלט מסתמך על מקורות המידע שסופקו. לפי המפרט הטכני של מיקרוסופט, המודל תומך גם בהימנעות מפורשת במצבים שבהם הראיות בקלט אינן מספיקות, כך שהוא מחזיר תשובה בסגנון 'לא ניתן לקבוע' במקום לנחש. החברה מציינת כי תבצע בעתיד Rebase של הארכיטקטורה על מודלים של OpenAI ושל MAI. עבור מי שבונה סוכנים מורכבים, המשמעות היא יכולת לקבל החלטות בינאריות או רב-ברירתיות ברמת תשתית.

השוואת ביצועים ועלויות

במספרים היבשים, המודל מציג יתרון כלכלי ותפעולי מול חלופות קיימות. לפי ההכרזה הרשמית, המודל השיג דיוק של 83.5% ב-36 מבחני ביצועים עיוורים שלא נכללו באימון וכללו כמעט 150,000 שאלות, עם זמן תגובה חציוני של 85 מילישניות. מיקרוסופט מתגאה בכך שהוא מהיר פי 2.5 מהמודל H2O-Lightning-4B v1.1 ומהיר פי 35 מ-GPT-6 Sol, אם כי ההשוואה למודל גנרטיבי כבד היא טקטיקה שיווקית שמשווה בין מוצרים שונים לחלוטין.

התמחור מציג תעריף אגרסיבי של 0.042 דולר למיליון טוקנים של קלט, כאשר טוקנים של פלט ניתנים בחינם לחלוטין. המודל זמין כעת דרך קטלוג הדגמים של Microsoft Foundry במסלול Direct from Azure עם חיוב אחיד וגמישות PTU, וכן באמצעות הפלטפורמה של OpenRouter. ההשוואה מול המתחרים מציגה תמונה תחרותית, במיוחד מול חברת ההזנק Jev שהשיקה את הגל הנוכחי באמצע ספטמבר אך מציגה דיוק נמוך יותר וזמני תגובה איטיים יותר במבחנים של מיקרוסופט. דגמי Clef של Cloudflare, המבוססים אף הם על Qwen, כלל לא נכללו בהשוואה הרשמית של החברה.

התלות בשרת מרוחק

הבעיה המרכזית עם Decision-1 טמונה במה שהוא לא מאפשר: הרצה עצמית. למרות שהבסיס נשען על קוד פתוח של עליבאבא, מיקרוסופט לא שחררה את המשקלים להורדה, ונועלת את השימוש בשירותי הענן שלה. עבור מפתחים שבונים סוכנים מקומיים או זקוקים לזמני תגובה של פחות מ-50 מילישניות, קריאת HTTP חיצונית לשרת של מיקרוסופט מבטלת חלק ניכר מיתרון המהירות של המודל עקב השהיית הרשת.

הרווח נמחק ברשת.

בנוסף, המודל מוגבל לטקסט בלבד ואינו תומך בקלט מולטימודלי של תמונה או קול. מיקרוסופט מדגישה בדוקומנטציה כי הכלי אינו מייצר נימוקים להחלטותיו, וכי הוא אינו מיועד למענה על שאלות פתוחות, שיחה, תרגום או סיכום. לפי תנאי השימוש, אסור להשתמש בו כמקבל החלטות אוטומטי בלעדי בנושאים מהותיים הנוגעים לבני אדם כמו אשראי, קבלה לעבודה, דיור, ביטוח, חינוך, שירותי בריאות או זכויות משפטיות, וכן למעקב ופרופיילינג. האחריות על הגדרת ספי הביטחון, אפשרויות התשובה ומסלולי ההסלמה לבדיקה אנושית מוטלת במלואה על האפליקציה המשלבת.

מתי לשלב בארכיטקטורה

לא הייתי ממהר לשלב אותו בכל מקום רק בגלל המחיר הנמוך. ההחלטה אם לאמץ את המודל תלויה ישירות במיקום השרתים שלכם. אם הארכיטקטורה שלכם כבר יושבת בענן ומריצה צינורות עיבוד הדורשים גדרות בטיחות או ניתוב מסמכים, Decision-1 יחסוך לכם סכומים משמעותיים בהשוואה לקריאות חוזרות למודלי שפה מלאים. עבור חברות הזנק ישראליות בתחומי הסייבר וסוכני ה-AI, מדובר בכלי יעיל לסינון ראשוני, כל עוד הנתונים יכולים לצאת לאזורי הענן הזמינים.

מנגד, אם אתם פועלים בסביבה סגורה ללא גישה לאינטרנט או שאתם זקוקים להערכת תוכן בעברית ברמת דיוק מאומתת, המודל אינו מספק פתרון כרגע. מיקרוסופט לא פרסמה מדדי ביצוע ייעודיים לעברית, ומודלי סיווג נוטים לאבד דיוק מחוץ לאנגלית ללא בדיקה פרטנית. שווה לבדוק את הביצועים על מדגם פנימי קטן לפני שמעבירים אליו את מנגנון הניתוב של המערכת.

הכיוון של תעשיית ה-AI ברור: מודלים קטנים שעושים דבר אחד מהר ובזול. עכשיו רק נשאר לקוות שמיקרוסופט תזכור שקוד פתוח לא אמור להסתיים במנעול של Azure.