מודל הקוד הפתוח החדש Beam מבטיח עצמאות אבל דורש חומרת ענק

החופש מתלות במודלים קנייניים נשמע מעולה במצגות הנהלה, עד שמגיעה הצעת המחיר מחוות השרתים. מעבדות Reflection AI האמריקאיות שחררו את מודל השפה Beam בבלוג של Hugging Face, כשהוא חמוש ברישיון קוד פתוח מסחרי מסוג Apache 2.0. המטרה המוצהרת היא לתת לארגונים בעלות מלאה על המודל שלהם, במיוחד למשימות פיתוח תוכנה והפעלת סוכני AI עצמאיים. ההבטחה הזו קורצת למנהלי פיתוח רבים, אבל המציאות התשתיתית מציבה רף כניסה אכזרי למדי.

הברזלים יקרים.

משקל כבד על הנייר

המבנה הפנימי של Beam נשען על ארכיטקטורת Mixture of Experts, או MoE, הכוללת בסך הכול 501 מיליארד פרמטרים. מתוכם, רק 23 מיליארד פרמטרים פעילים עבור כל טוקן בודד שמחושב. המודל בנוי מ-52 שכבות מפענח עם גודל נסתר של 5,120. שלוש השכבות הראשונות עושות שימוש במנגנון SwiGLU MLP צפוף, בעוד ש-49 השכבות האחרות מחליפות אותו בבלוק מומחים של 256 מומחים שונים. המומחים הללו מחזיקים ב-98.4% מכלל הפרמטרים של המודל, כאשר כל אחד מהם הוא SwiGLU עם גודל ביניים של 2,560, כלומר כ-39 מיליון פרמטרים למומחה. מנגנון הניתוב מחלק את המומחים לשמונה קבוצות של 32, בוחר את ארבע הקבוצות המובילות, ומתוכן מפעיל שמונה מומחים בלבד לכל טוקן.

כל 256 המומחים חייבים להישאר בזיכרון, כך שהפריסה דורשת נפח זיכרון של מודל 501B אך רצה במהירות של מודל 23B.דוקומנטציית Beam הרשמית

השילוב הזה מעניק לארגונים את היכולת לבצע כוונון עדין ולהחזיק את כל המשקלים בשרתים מבודדים, בלי לחשוש משינויי מדיניות או סגירת שירותים של ספקיות ענן חיצוניות. אבל בניגוד למודלי משקל קל שאפשר להריץ על תחנת עבודה חזקה במשרד, כאן מדובר בחבילת ענק שדורשת היערכות ייעודית.

ניהול חלון ההקשר העצום של מיליון טוקנים מתבסס על ארכיטקטורת קש היברידית. רוב השכבות, 43 מתוך 52, משתמשות במנגנון חלון נע של 512 טוקנים קודמים עם קידוד מיקום יחסי מסוג RoPE. רק תשע שכבות גלובליות שומרות את ההקשר המלא של הרצף, והן עושות שימוש בסקיילר ייעודי שמשמר את הדיוק של פונקציית הסופטמקס במקום קידוד מיקום מסורתי. בזכות המבנה הזה, זיכרון הקש לרצף מלא של מיליון טוקנים גדל ב-36 קילובייט לטוקן ומגיע לנפח של 36.08 ג'יגה-בייט, במקום 208 ג'יגה-בייט שהיו נדרשים אילו כל השכבות היו גלובליות.

חשבון החומרה מגיע מהר

משקלי המודל בפורמט הדיוק המקורי BF16 שוקלים כ-1 טרה-בייט בפורמט safetensors. כדי לטעון אותם, נדרשים 16 מאיצי H200 של חברת NVIDIA, המסודרים בשני צמתי שרתים מלאים של שמונה כרטיסים כל אחד. חלוקת המומחים מחייבת שכל כרטיס יחזיק כ-78 ג'יגה-בייט של משקלים, שכן פריסה על שמונה כרטיסים בלבד הייתה דורשת 139 ג'יגה-בייט לכרטיס ולא משאירה מקום בזיכרון בנפח 141 ג'יגה-בייט של H200.

בניסיון להקל על הדרישות, החברה הוציאה גרסת כיבוץ מסוג Beam בפורמט NVFP4, שמכווצת את משקל הפרמטרים ל-280 ג'יגה-בייט. כאן נכנס המלכוד: הפורמט הזה נתמך באופן מובנה רק בארכיטקטורת Blackwell החדשה, כמו כרטיסי B200 או B300. שני כרטיסי B200 מספקים 360 ג'יגה-בייט זיכרון ויכולים להחזיק את המשקלים, אך הם מותירים מעט מאוד מקום להפעלות או לקש הנדרש עבור חלון הקשר המלא של מיליון טוקנים. לכן, התצורה המעשית המינימלית מחייבת לפחות ארבעה כרטיסי B200, המעניקים 720 ג'יגה-בייט זיכרון.

זה לא זול.

מבחני הביצועים והמגבלות בשטח

לפי החברה, המודל מציג תוצאות גבוהות במבחני תכנות מורכבים, עם 81.6% בבנצ'מרק SWEBench Verified וציון של 97.7% במבחן AIME 2026 בגרסת BF16. מבחנים נוספים של החברה מציגים 80.1% ב-Terminal Bench v2.1, תוצאה של 90.6% במבחן GPQA Diamond וציון של 88.3% ב-LiveCodeBench. ירידת הדיוק במעבר לפורמט המכווץ NVFP4 שולית למדי במרבית המדדים, כאשר המודל שומר על 80.7% ב-SWEBench Verified ו-97.5% ב-AIME 2026. המודל כולל גם מנגנון שרשרת מחשבה שמשתמרת בין שלבי שיחה בחמש רמות עומק שונות, ומערכת מובנית לקריאה לכלים חיצוניים בתחביר דמוי XML.

עם זאת, צריך לזכור שכל המספרים הללו מגיעים כרגע מדיווחי החוקרים עצמם, ללא אימות נרחב מצד קהילת הקוד הפתוח העולמית. מגבלה מהותית נוספת היא העובדה ש-Beam הוא מודל טקסט בלבד. אין לו תמיכה בקלט של תמונות, מסמכים סרוקים או קול. עבור צוותי פיתוח בישראל יש מכשול נוסף: המודל אומן ומותאם כמעט לחלוטין לשפה האנגלית. אין נתוני ביצועים רשמיים על עברית, והניסיון מלמד שמודלים אמריקאיים ללא התאמה ייעודית מתקשים בתחביר מקומי, מה שהופך פיתוח מערכות פנימיות בעברית למשימה מורכבת במיוחד בהשוואה לכלים כמו Keepi.

שמרו את כרטיסי האשראי

אם אתם מנהלים צוות פיתוח ומתכננים להקים אשכול שרתים ייעודי עבור Beam, כדאי לעצור. המחסור העולמי בשבבי Blackwell, במיוחד בישראל, הופך רכישה של ארבעה או שמונה מאיצים כאלה לפרויקט תשתיתי ארוך ויקר מאוד שלא מתאים לכל חברה. ההשקה כוללת תמיכה מהיום הראשון במנועי הרצה מובילים כמו vLLM ו-SGLang, לצד מודל מאיץ ייעודי בשם DFlash2 לחיזוי של עד 15 טוקנים קדימה בכל שלב.

הצעד הנכון ביותר כרגע הוא לא לפתוח מכרז לרכש שרתים, אלא לבחון את המודל דרך ספקי הסקה חיצוניים במודל חסר שרת (Serverless), כפי שפורסם בניתוח של Tokenomy. בדיקה כזו תאפשר לכם למדוד את יעילות המודל בקוד הארגוני שלכם, לבדוק את איכות ההסקה מול ממשקי vLLM בענן מנוהל, ולראות אם המודל בכלל עומד בציפיות לפני שאתם מתחייבים להוצאות חשמל וחומרה של מרכז נתונים שלם.