GPT
הוספת כלי
G

granite-4.2-8b

קוד פתוח

ibm-graniteapache-2.02026-08-07

  • transformers
  • safetensors
  • granite
  • text-generation
  • granite-4.2

זהו מודל פתוח מבית יבמ שמביא יכולות חשיבה ופתרון בעיות לגודל קומפקטי. הוא מתאים למי שרוצה הרצה מקומית, הפעלת כלים ורישיון מסחרי חופשי.

  • 8.8Bפרמטרים
  • 131,072טוקנים בהקשר
  • 16.4 GBמשקל הקבצים
  • 19,195הורדות בחודש

מה זה

מדובר במודל שפת חשיבה צפוף של כמעט 8.8 מיליארד פרמטרים, המאומן לייצר שרשרת חשיבה לפני שהוא פולט תשובה סופית. השוני הבולט שלו מרוב המודלים בגודל דומה הוא הגמישות הזו, שמאפשרת לבחור פר שאילתה בין חשיבה מלאה, חשיבה קצרה או כיבוי מוחלט של החשיבה כדי לחסוך זמן ומשאבים.

במבחני ביצועים הוא מראה תוצאות חזקות למדי ביחס לממדיו. הוא מגיע לציון של 86.67 במבחן המתמטיקה AIME25 ורושם 73.24 ב־LiveCodeBench v6, לצד 47.67 ב־SWE Bench Verified. המשמעות בפועל היא שהוא מתמודד יפה עם בעיות קוד והפעלת כלים, אבל עדיין מפגר מאחורי גרסת ה־30B באותם מבחנים ממש.

מתאים ל

  • סוכני קוד פשוטים

    הוא מגיע ל־47.67 אחוז ב־SWE Bench Verified ומשלב קריאות כלים עם תהליך חשיבה מובנה.

  • ניתוח מסמכים ארוכים

    חלון הקשר של 131,072 טוקנים מאפשר לעבד טקסטים נרחבים ישירות מתוך זיכרון העבודה.

  • פתרון בעיות לוגיות

    הוא מגיע ל־86.67 ב־AIME25 הודות לתגיות חשיבה פנימיות שמונעות שליפת תשובות חפוזות.

איפה זה נופל

למרות שהוא נבדק על שפות כמו ערבית, יפנית ומספר שפות אירופיות, עברית כלל אינה ברשימת השפות שנבדקו וסביר להניח שהביצועים בה יקרטעו. בנוסף, בבדיקות תכנות מורכבות כמו SWE Bench Pro הוא מגיע ל־19.11 אחוז בלבד, וב־Terminal-Bench הוא עומד על 20.56. אסור לבנות עליו לפקודות מעטפת אוטונומיות או תיקוני באגים סבוכים בלי בדיקה אנושית הדוקה.

אותה משפחה

granite-4.2 יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

granite-4.2-3b22,081 granite-4.2-30b12,037

שאלות
נפוצות

האם המודל הזה תומך בעבודה בעברית?

הכרטיס מפרט שפות כמו אנגלית, גרמנית, ספרדית, צרפתית, יפנית, פורטוגזית, ערבית וצ'כית. עברית אינה מופיעה ברשימת השפות שנבדקו רשמית, ולכן תצטרכו לבדוק את התוצאות בעצמכם לפני שתסתמכו עליו.

איך אפשר לשלוט על זמן התגובה שלו?

ניתן לכבות את תהליך החשיבה לגמרי באמצעות הפרמטר enable_thinking, או להפעיל מצב מאמץ נמוך. זה מאפשר לקבל תשובה מיידית לשאלות פשוטות בלי לבזבז טוקנים על שרשרת חשיבה ארוכה.

איך מריצים

כדי להריץ אותו בפורמט המקורי נדרשים קבצים במשקל 16.4 גיגה בייט בפורמט bfloat16. זה אומר שצריך כרטיס גרפי עם מספיק זיכרון כדי להחזיק את המשקולות האלה לצד זיכרון עבודה עבור חלון הקשר ארוך. הוא מותאם במיוחד להרצה דרך vLLM או SGLang, תוך שימוש בפרסרים ייעודיים לתהליכי החשיבה וקריאות הכלים.

אם כל מה שאתם צריכים זה רק לבדוק תהליך עבודה נקודתי או שאין לכם חומרה ייעודית עם מספיק זיכרון וידאו, פשוט קחו שירות מנוהל חיצוני. התעסקות עצמאית בהרצה שווה את המאמץ בעיקר כשחייבים פרטיות מידע מוחלטת או שליטה מלאה בשרת.

from transformers import pipeline

pipe = pipeline("text-generation", model="ibm-granite/granite-4.2-8b")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 16.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא מופץ תחת רישיון apache-2.0. זהו רישיון מתירני שמאפשר שימוש מסחרי מלא, שינוי של המשקולות, שילוב במוצרים סגורים והפצה מחדש, בכפוף לשמירה על תנאי הרישיון המקוריים והצהרות זכויות היוצרים של המפתחים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗