GPT
B

BigBang-v1

קוד פתוח

endless-frontierapache-2.02026-08-02

  • transformers
  • safetensors
  • qwen3_5_moe
  • image-text-to-text
  • conversational

מודל פתוח של 36 מיליארד פרמטרים שמציג ביצועים של מודלי ענק במשימות מחקר, תכנות ומדע. הוא אומן על נתונים סינתטיים מורכבים במיוחד כדי לפתור בעיות טכניות שמעבר לידע אנושי רגיל.

  • 36Bפרמטרים
  • 262,144טוקנים בהקשר
  • 67.0 GBמשקל הקבצים
  • 16,044הורדות בחודש

מה זה

הבסיס כאן הוא ארכיטקטורת תערובת מומחים של Qwen, שעברה אימון המשך ממוקד בעזרת סוכנים שיצרו ובדקו כעשרת אלפים דוגמאות סינתטיות ברמת קושי גבוהה. המטרה הייתה לקחת מודל במשקל בינוני ולהביא אותו ליכולות של מערכות עצומות, ספציפית סביב משימות שדורשות הוכחה ובדיקה פורמלית.

במבחנים של מחקר מדעי ומשימות מורכבות, הוא עוקף מודלים בגודל דומה בפער ניכר, ובמקרים מסוימים כמו מבחני HLE או PaperBench מגיע לתוצאות שמתחרות במודלים של מאות מיליארדי פרמטרים. במשימות תכנות מעשיות, כמו SWE-Bench Pro, הוא מגיע לציון של 54.2, שזה שיפור עצום לעומת מודל הבסיס שלו אבל עדיין משאיר אותו מאחורי מודלים קנייניים כבדים כמו Claude Opus.

מתאים ל

  • פיתוח סקריפטים מדעיים

    הוא קיבל ציונים חזקים ב־SciCode ומיועד לפתרון בעיות חישוביות מורכבות.

  • קריאה וניתוח של מאמרי מחקר

    חלון הקשר ענק ויכולת גבוהה ב־PaperBench מאפשרים לעבד מסמכים אקדמיים ארוכים.

  • הפעלת סוכנים אוטונומיים

    הוא כולל תמיכה מובנית בהפעלת כלים וביצוע חיפושים מורכבים לאורך זמן.

איפה זה נופל

החולשה המרכזית שלו היא דרישות הזיכרון. המפתחים מציינים במפורש שאם חותכים את ההקשר מתחת ל־128 אלף טוקנים כדי להימנע מקריסות זיכרון, יכולת ההסקה והחשיבה שלו נפגעת. בנוסף, למרות ההתעלות במבחנים מדעיים, במשימות תכנות רגילות ומחקר ביולוגי מסוים הוא עדיין רושם ציונים נמוכים משמעותית ביחס למובילי השוק, והנתונים הרשמיים מגדירים תמיכה בשפה האנגלית בלבד, כך שלא כדאי לבנות עליו לפרויקטים בעברית.

שאלות
נפוצות

האם אפשר להריץ אותו על כרטיס מסך ביתי בודד?

לא בגרסה המלאה שלו. המשקלים לבדם תופסים 67 גיגה-בייט, וכדי לקבל את מלוא חלון ההקשר המפתחים מגדירים פריסה על שמונה כרטיסי מסך. אפשר לנסות הרצה היברידית עם KTransformers או קוונטיזציה כבדה, אבל זה ידרוש פשרות משמעותיות במהירות ובביצועים.

האם הוא מבין ומייצר עברית?

התיעוד הרשמי מציין אנגלית בלבד. יכול להיות שהוא יפלוט עברית בזכות נתוני האימון הכלליים של ארכיטקטורת הבסיס, אבל הוא לא כוון או נבדק לזה, ולא מומלץ להסתמך עליו בעיבוד טקסט מקומי.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־67 גיגה-בייט, ודוגמאות ההרצה הרשמיות דורשות שמונה מעבדים גרפיים עם חלוקת Tensor Parallel כדי להחזיק את חלון ההקשר המלא. מנועי הרצה מודרניים כמו SGLang או vLLM נתמכים ישירות, וכוללים דגלים ייעודיים לשימוש בכלים, Multi-Token Prediction, או מצב טקסט בלבד שמכבה את עיבוד התמונה כדי לחסוך זיכרון למטמון.

אם אין לכם אשכול שרתים ייעודי עם שמונה כרטיסים, הרצה מקומית מלאה היא עסק יקר ומסורבל מאוד. במצב כזה עדיף לצמצם את חלון ההקשר, להשתמש בכלים כמו KTransformers שמשלבים זיכרון מעבד רגיל, או פשוט לצרוך אותו דרך ספק API שמארח אותו.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="endless-frontier/BigBang-v1")
print(pipe("שלום"))

הרישיון

הוא מופץ תחת רישיון Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר להשתמש בו לצרכים מסחריים, לשנות את המשקלים, לשלב אותו במוצרים סגורים ולהפיץ אותו הלאה, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗