GPT
הוספת כלי
K

K2-Horizon-375B-A23B

קוד פתוח

IFMapache-2.02026-09-01

  • transformers
  • safetensors
  • k2_horizon
  • text-generation
  • k2-horizon

זה מודל MoE ענק שדורש משאבים כבדים אך מפעיל רק 23 מיליארד פרמטרים בפועל. הוא מתאים למי שבונה סוכנים אוטונומיים ומחפש חלון הקשר עצום של חצי מיליון טוקנים.

  • 379Bפרמטרים
  • 524,288טוקנים בהקשר
  • 706 GBמשקל הקבצים
  • 2,012הורדות בחודש

מה זה

מדובר במודל הדגל של סדרת K2-Horizon מבית IFM, שנבנה בתצורת Mixture-of-Experts. מתוך 379 מיליארד פרמטרים שנמצאים בזיכרון, רק 23 מיליארד מופעלים בכל טוקן. המשמעות היא יכולת של מודל ענק עם זמני ריצה שמזכירים מודלים קטנים בהרבה, לצד חלון הקשר מובנה של 524,288 טוקנים שעבר אימון ישיר.

במדדי ביצועים שמתמקדים בסוכנים עצמאיים, הוא מציג תוצאות חזקות מול מתחרים פתוחים. במבחן Toolathlon Verified הוא רושם 65.3 נקודות, ובמדד הפעלת כלי MCP הוא מגיע ל־67.7 נקודות, מספרים שמקדימים משמעותית מודלים פתוחים כבדים כמו Nemotron 3 Ultra. במשימות מסוף מורכבות ב־Terminal-Bench הוא מגרד את 70.2 האחוזים, קרוב מאוד למודלים סגורים מובילים.

מתאים ל

  • סוכני ניהול מסוף

    התוצאה ב־Terminal-Bench מאפשרת להפקיד בידיו פקודות מערכת מורכבות.

  • אינטגרציית כלי MCP

    הוא מציג דיוק גבוה במדד MCPMark ומתחבר ישירות לסביבות עבודה מרובות כלים.

  • מחקר מסמכים ארוכים

    חלון הקשר של חצי מיליון טוקנים מתאים לניתוח ספריות קוד ומסדי נתונים שלמים.

איפה זה נופל

המודל הזה נתמך באנגלית בלבד לפי המפרט, ולא הייתי משתמש בו לשום עיבוד בשפה העברית בלי לבדוק אותו ביסודיות קודם. בנוסף, במשימות תכנות מדעי ב־SciCode הוא השיג 42.7 נקודות בלבד, תוצאה שמציבה אותו הרחק מאחורי המובילים בתחום ומראה שהוא לא מתאים לכל תרחיש טכני.

אותה משפחה

K2-Horizon יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

K2-Horizon-0.9B5,883 K2-Horizon-7B2,989

שאלות
נפוצות

האם המודל ירוץ על שרת עם שני כרטיסי GPU חזקים?

לא. משקל הקבצים לבדו עומד על 706 גיגה-בייט, ואתם חייבים לפחות 8 כרטיסים של 80 גיגה-בייט רק כדי לטעון אותו לזיכרון.

האם כדאי לבנות עליו מערכת שמשרתת לקוחות בישראל?

רק אם כל התוכן והשיחות מתנהלים באנגלית. המודל מוגדר רשמית לשפה האנגלית בלבד, ואין נתונים על יכולותיו בעברית.

איך מריצים

קבצי המודל שוקלים 706 גיגה-בייט ופרוסים על פני 76 קבצים בספריית transformers. כדי להחזיק את כל המשקלים בזיכרון לפני שבכלל מתחילים לחשב משהו, חייבים שרת ייעודי עם שמונה כרטיסי A100 או H100 בנפח 80GB כל אחד.

ההבדל המשמעותי כאן הוא שבזמן הסקת מסקנות רצים רק 23 מיליארד פרמטרים, כך שמהירות יצירת הטוקנים סבירה לגמרי ביחס לגודל. אם אין לכם קלאסטר כזה פנוי במשרד או בענן פרטי, הניסיון להריץ אותו לבד הוא בזבוז תקציב, ועדיף להמתין לממשקי API חיצוניים.

from transformers import pipeline

pipe = pipeline("text-generation", model="IFM/K2-Horizon-375B-A23B")
print(pipe("שלום"))

הקבצים

76 קבצים במאגר, 706 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

רישיון apache-2.0 מעניק חופש מלא. אפשר להשתמש בו לצרכים מסחריים, לשנות את הקוד ולהפיץ אותו בתוך מוצרים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗