GPT
הוספת כלי
M

Midm-2.0-Mini-Instruct

קוד פתוח

K-intelligencemit2025-07-03

  • transformers
  • safetensors
  • llama
  • text-generation
  • KT

מודל שיחה קל משקל שכוון ספציפית לקוריאנית ולאנגלית. הוא מתאים למי שחייב ריצה מקומית על חומרה צנועה עם דגש חזק על הבנה של תרבות והקשר קוריאני.

  • 2.3Bפרמטרים
  • 32,768טוקנים בהקשר
  • 4.3 GBמשקל הקבצים
  • 24,475הורדות בחודש

מה זה

מדובר במודל שנוצר על ידי חברת KT הקוריאנית בשיטות של גיזום וזיקוק מתוך גרסת הבסיס שלו, ומכוון ספציפית לפעולה על מכשירי קצה. הוא מבוסס על ארכיטקטורת Llama ומיועד לעבודה באנגלית ובקוריאנית, כשהמטרה המוצהרת של המפתחים היא התאמה עמוקה לקודים חברתיים ונורמות מקומיות בדרום קוריאה.

במבחני הביצועים בקוריאנית הוא מציג תוצאות טובות מאוד ביחס לגודלו. במעקב אחר הוראות הוא מוביל על פני מודלים כמו Exaone 3.5 2.4B ו־Qwen3 4B, ומגיע לציון של 74.0 ב־Ko-MTBench. עם זאת, במשימות היגיון מורכבות, כמו מבחן LogicKor שבו קיבל 7.7 נקודות בלבד, רואים בבירור את המגבלה של מודל קטן ממדים.

באנגלית התמונה פחות מרשימה. במבחני ידע כללי והבנה כמו MMLU ו־IFEval הוא מפגר באופן עקבי אחרי מודלים מתחרים בגודל דומה. היתרון היחיד שלו באנגלית מול המתחרים בקטגוריה הוא יתרון קל בכתיבת קוד לפי מבחן MBPP+.

מתאים ל

  • בוטים פנימיים בקוריאנית

    שירות לקוחות או מענה אוטומטי שחייב להבין ניואנסים חברתיים ותרבותיים מקומיים בקוריאה.

  • ריצה מקומית על מחשבי קצה

    הפעלת מודל על מחשבים ניידים ללא חיבור רשת כשנפח הזיכרון מוגבל לעד 8 גיגהבייט.

  • הפעלת פונקציות מקומית

    ניתוב הוראות והפעלת כלים במערכות אוטומציה קטנות באמצעות vLLM והתוסף הייעודי של המודל.

איפה זה נופל

המודל אומן על קוריאנית ואנגלית בלבד. המפתחים מצהירים מפורשות שאין שום הבטחה להבנה או ליצירה של טקסט בשפות אחרות, כך שעברית כלל אינה נתמכת כאן. הוא גם אינו מתאים לייעוץ בתחומים הדורשים דיוק מקצועי כמו רפואה, משפטים או פיננסים, ועלול לפלוט אי דיוקים עובדתיים. בנוסף, חלון ההקשר שלו מוגבל יחסית ביחס לדגמים חדשים יותר, ויכולת ההיגיון שלו במשימות מורכבות נמוכה מאוד.

שאלות
נפוצות

האם המודל הזה מתאים לעבודה בעברית?

לא. נתוני האימון של המודל כללו קוריאנית ואנגלית בלבד. היוצרים מציינים במפורש שאינם מבטיחים תמיכה בשום שפה אחרת, ולכן הוא לא מתאים לעיבוד או לייצור טקסט בעברית.

מה צריך כדי להפעיל function calling?

צריך להריץ את שרת vLLM עם גרסה 0.8.0 לפחות, ולהוריד קובץ פייתון ייעודי בשם midm_parser שמספקת החברה. את הקובץ הזה טוענים כפלאגין בתוך פקודת ההרצה של השרת כדי שהמערכת תדע לפרש את קריאות הכלים.

איך המודל מתמודד עם משימות חשיבה מורכבות?

התוצאות במבחני היגיון כמו LogicKor ו־GPQA נמוכות למדי ומראות על קושי ממשי. מודלים בגודל 2.3 מיליארד פרמטרים מתאימים בעיקר לפעולות ישירות של ניסוח ומעקב אחר הוראות, ולא לפיצוח בעיות לוגיות עמוקות.

איך מריצים

המשקל הכולל של הקבצים עומד על 4.3 גיגהבייט בפורמט bfloat16, מה שאומר שהוא נכנס בקלות לזיכרון של כרטיס מסך ביתי בסיסי עם 6 עד 8 גיגהבייט זיכרון וידאו. אפשר להריץ אותו ישירות דרך ספריית transformers החל מגרסה 4.45.0, או דרך פתרונות מקומיים כמו Ollama, LM Studio ו־llama.cpp כפי שהמפתחים מדגימים במאגר שלהם.

בשביל פריסה בייצור, מריצים אותו עם vLLM מגרסה 0.8.0 ומעלה, כשהיוצרים ממליצים על גרסה 0.11.0. אם אתם צריכים הפעלת פונקציות, vLLM דורש קובץ מפענח ייעודי שהם מספקים כדי שהמערכת תזהה את הקריאות לכלי חיצוני. אם אין לכם שרת מקומי, אפשר להשתמש בנקודות הקצה של Friendli.AI, שם הממשק פתוח לחמש הודעות ראשונות ללא צורך בהרשמה.

from transformers import pipeline

pipe = pipeline("text-generation", model="K-intelligence/Midm-2.0-Mini-Instruct")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 4.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר תחת רישיון MIT. זהו רישיון קוד פתוח מתירני לחלוטין שמאפשר שימוש מסחרי, שינוי של המשקולות, שילוב בתוכנה קניינית והפצה מחודשת ללא תשלום תמלוגים. התנאי היחיד הוא שמירת הודעת זכויות היוצרים ומלל הרישיון המקורי בקוד או במוצר שמפיצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗