GPT
הוספת כלי
M

Midm-2.0-Base-Instruct

קוד פתוח

K-intelligencemit2025-07-03

  • transformers
  • safetensors
  • llama
  • text-generation
  • KT

מודל של 12 מיליארד פרמטרים שפותח סביב השפה וההקשר התרבותי של קוריאה. הוא מעניין את מי שצריך שילוב ספציפי של קוריאנית ואנגלית או עבודה עם קריאות לפונקציות מקומיות.

  • 12Bפרמטרים
  • 32,768טוקנים בהקשר
  • 21.5 GBמשקל הקבצים
  • 25,196הורדות בחודש

מה זה

מדובר במודל שנוצר מהרחבת מודל 8B בשיטת Depth-up Scaling עד ל־11.5 מיליארד פרמטרים. המפתחים שלו בחברת KT כיוונו ספציפית לתרבות ולשיח הקוריאני, וזה ניכר ישירות בתוצאות המדידה שלהם. במבחני הבנת החברה, השפה והתרבות המקומית הוא עוקף את Llama 3.1 8B ומשאיר מאחור גם מודלים כמו Qwen3-14B בחלק מהמבחנים היעודיים.

במשימות כלליות באנגלית הסיפור שונה. בבדיקות חשיבה מורכבת כמו GPQA או ידע מקצועי ב־MMLU-pro הוא מציג תוצאות בינוניות בלבד, ומפסיד למתחרים באותו טווח גודל. אם מנקים את היכולת הקוריאנית, הוא מתפקד כמודל הוראות סביר באנגלית, לא מעבר לזה.

מתאים ל

  • עיבוד תוכן בקוריאנית

    הוא מותאם לעומק לנורמות התרבותיות והלשוניות של קוריאה, מעבר לתרגום מילולי פשוט.

  • הפעלת פונקציות בשרת מקומי

    כולל פלאגין מובנה ל־vLLM שתומך בחילוץ כוונות וב־tool calling.

  • שירות לקוחות דו לשוני

    מתאים למוצרים שדורשים מענה משולב באנגלית ובקוריאנית בלי תלות ב־API חיצוני.

איפה זה נופל

היוצרים מגדירים מראש שהאימון התמקד רק באנגלית ובקוריאנית, כך שאין מה לצפות לביצועים סבירים בשפות אחרות, כולל עברית. הוא לא מיועד להסקת מסקנות מקצועית בתחומי רפואה, חוק או כספים, והמפתחים מזהירים ישירות מהזיות ועיוותי עובדות. בנוסף, תוצאות ה־LogicKor שלו נמוכות מאוד, מה שמעיד על קושי בהיגיון צרוד.

שאלות
נפוצות

האם כדאי להשתמש בו ליישומים בעברית?

ממש לא. המודל אומן רק על אנגלית וקוריאנית, ולא יספק שום תוצאה אמינה בעברית.

מה היתרון של גרסת Base מול גרסת Mini?

גרסת Base מציעה 11.5B פרמטרים וביצועים גבוהים בהרבה בהבנת הקשר והוראות, בעוד Mini מכווצת ל־2.3B ומתאימה למכשירים חלשים.

איך מריצים תמיכה ב־Function Calling?

מורידים את קובץ ה־midm parser הרשמי ומעלים קונטיינר של vLLM בגרסה 0.11.0 לפי הדוגמה שהמפתחים פרסמו.

איך מריצים

כדי להריץ אותו מקומית במשקל המלא של 21.5 גיגה בייט בפורמט bfloat16, תצטרכו כרטיס מסך עם 24 גיגה זיכרון לפחות, כמו RTX 3090 או כרטיס שרת מקביל. אם מתכננים לנצל את כל חלון ההקשר של 32,768 טוקנים, תצטרכו קוואנטיזציה דרך llama.cpp, LM Studio או Ollama, שהפרויקט תומך בהם.

עבור שירות בסביבת ייצור, הפרויקט מציע אינטגרציה רשמית עם vLLM ומספק מפענח מותאם משלו לקריאות לפונקציות. מי שרק רוצה לבדוק יכול לטעון אותו ישירות דרך Friendli.AI בלי לגעת בברזלים.

from transformers import pipeline

pipe = pipeline("text-generation", model="K-intelligence/Midm-2.0-Base-Instruct")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 21.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר תחת רישיון MIT. זה נותן חופש כמעט מוחלט, כולל שימוש מסחרי מלא, שינוי קוד, הרצה במוצרים סגורים והפצה מחדש, כל עוד שומרים על הודעת הרישיון המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗