GPT
הוספת כלי
B

Bee-8B-RL

קוד פתוח

Open-Beeapache-2.02025-10-10

  • transformers
  • safetensors
  • Bee
  • feature-extraction
  • Bee-8B

מודל ראייה ושפה פתוח בגודל 8.7 מיליארד פרמטרים שמתמקד בחשיבה מורכבת ומתמטיקה. הוא עבר חיזוק בלמידת חיזוק ומציע מצב חשיבה מובנה לניתוח מעמיק של תמונות.

  • 8.7Bפרמטרים
  • 40,960טוקנים בהקשר
  • 16.2 GBמשקל הקבצים
  • 11,871הורדות בחודש

מה זה

מדובר במודל מולטימודלי שלוקח תמונה וטקסט ומחזיר טקסט. הבסיס שלו נשען על אימון מול מאגר Honey-Data-15M שעבר ניקוי והעשרה בשרשראות חשיבה קצרות וארוכות, כשגרסת ה־RL הנוכחית עברה שלב נוסף של למידת חיזוק. הוא כולל חלון הקשר של 40,960 טוקנים ומאפשר שליטה ידנית בהפעלת מצב חשיבה, כך שאפשר לכבות אותו כדי לחסוך טוקנים או להדליק אותו כדי לקבל נימוק מפורט.

בבדיקות הביצועים של היוצרים, הדגש הוא על משימות מתמטיות ולוגיות מורכבות מבוססות תמונה. המודל מוביל במבחנים כמו MathVerse, LogicVista ו־DynaMath מול מודלים פתוחים אחרים בגודל דומה, ומציג תוצאות חזקות גם בפענוח גרפים ומסמכים במבחן CharXiv. השילוב של ארכיטקטורת BeeForConditionalGeneration יחד עם רכיבי ראייה מודרניים מאפשר לו להתמודד עם תרשימים צפופים בלי לאבד פרטים.

מתאים ל

  • ניתוח גרפים מדעיים

    התוצאות ב־CharXiv מראות יכולת גבוהה לפענח תרשימים מורכבים ולענות על שאלות שמצריכות היסק כמותי מתוך תמונה.

  • פתרון בעיות הנדסיות מתמונה

    מצב החשיבה המובנה מתאים למשימות מתמטיקה ולוגיקה חזותית שדורשות פירוק שלבי הפתרון.

  • עיבוד מסמכים טכניים באנגלית

    חלון ההקשר הנדיב מאפשר להזין טקסטים ארוכים לצד דיאגרמות בלי לחתוך מידע חיוני.

איפה זה נופל

הכרטיס מצהיר על תמיכה בשפה האנגלית בלבד. אם תזינו מסמכים או שאלות בעברית, הביצועים לא מובטחים ולא נבדקו רשמית. בנוסף, ברירת המחדל מפעילה מצב חשיבה שמייצר תשובות ארוכות מאוד, מה שמעלה משמעותית את זמן ההמתנה לתשובה וצורך הרבה יותר טוקנים. קוד האימון של הפרויקט עדיין בשלבי ניקוי ומבוסס על ספריות ישנות יותר, ודורש שימוש בדגל שמאפשר הרצת קוד מרוחק בעת טעינה.

שאלות
נפוצות

האם המודל מתאים לעבודה עם מסמכים בעברית?

המודל הוגדר ואומן עבור השפה האנגלית בלבד לפי נתוני המפתח. הוא עלול לזהות תווים בעברית באופן חלקי, אך אינו מיועד לכך ולא מומלץ להסתמך עליו למשימות כאלה ללא אימון נוסף.

איך מבטלים את פלט החשיבה הארוך כדי לקבל תשובות מהירות?

בעת שליחת הבקשה לקוד אפשר להגדיר את המשתנה enable_thinking כ־False. פעולה זו מכבה את שרשרת החשיבה הארוכה ומחזירה מיד את התשובה הסופית, מה שמקצר את זמן התגובה וחוסך זיכרון.

איך מריצים

המשקל הכולל של הקבצים עומד על 16.2 גיגה בייט בפורמט bfloat16. כדי להריץ אותו מקומית באופן סביר צריך כרטיס מסך עם לפחות 24 גיגה בייט זיכרון וידאו, או מערך מרובה כרטיסים אם מריצים שרת עמוס, כפי שמדגימים היוצרים עם vLLM בחלוקה לכמה מעבדים גרפיים.

ההרצה נתמכת ישירות דרך ספריית transformers או דרך שרת vLLM מגרסה 0.11.1 ומעלה שמאפשר ממשק תואם OpenAI. אם אין לכם חומרה ייעודית בענן או תחנת עבודה חזקה, עדיף להשתמש ב־API מנוהל מאשר לנסות לדחוף אותו למחשב אישי שאינו מיועד למודלים בגודל כזה.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="Open-Bee/Bee-8B-RL")
print(pipe("שלום"))

הקבצים

25 קבצים במאגר, 16.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי מלא, שינוי של המשקולות והפצה חופשית, כולל שילוב במוצרים סגורים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים וציון הרישיון המקורי בקבצים הרלוונטיים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗