GPT
הוספת כלי
K

Kumru-2B

קוד פתוח

vngrs-aiapache-2.02025-09-23

  • transformers
  • safetensors
  • mistral
  • text-generation
  • conversational

מודל שפה קטן שאומן מאפס במיוחד עבור טורקית. הוא עוקף מודלי ענק במשימות שפה מקומיות ותופס מעט מאוד זיכרון.

  • 2.4Bפרמטרים
  • 8,192טוקנים בהקשר
  • 4.4 GBמשקל הקבצים
  • 1,015הורדות בחודש

מה זה

הצוות של VNGRS בנה את המודל הזה על בסיס ארכיטקטורת Mistral עם 2.4 מיליארד פרמטרים, כשהוא מאומן מראש על 300 מיליארד טוקנים בטורקית ועובר כוונון הוראות על מיליון דוגמאות. השוני המרכזי מול מודלים רב-לשוניים בגודל דומה נמצא בטוקנייזר הייעודי שלו, שמייצג טקסט בטורקית בחיסכון של עד 98 אחוזים בכמות הטוקנים ביחס למתחרים.

במבחני Cetvel המקומיים לטורקית, המפתחים מציגים נתונים שבהם המודל הקטן הזה עוקף ענקים כמו LLaMA 3.3 של 70 מיליארד פרמטרים או Qwen 2 של 72 מיליארד. המשמעות בפועל היא הבנה דקדוקית עמוקה, יכולת תיקון שגיאות וסיכום טקסטים בטורקית ברמה גבוהה מאוד, בלי לשלם עלויות מחשוב כבדות של מודלי ענק.

מתאים ל

  • בוט שירות לקוחות בטורקית

    רץ מקומית בזול ומבין ניואנסים דקדוקיים טוב יותר ממודלים ענקיים.

  • תיקון שגיאות וניסוח

    מצטיין במבחני שפה ייעודיים לתיקון תחביר ואיות בטורקית.

  • סיכום טקסטים קצרים

    טוקנייזר יעיל שמייצר סיכומים מהירים בצריכת משאבים מינימלית.

איפה זה נופל

ההתמחות הצרה היא החיסרון המרכזי כאן. המודל אומן מראש אך ורק עבור טורקית, ולכן הוא לא מתאים לעבודה בעברית או במשימות שדורשות מעבר חלק בין שפות. בנוסף, חלון ההקשר עומד על 8,192 טוקנים, כך שהוא לא בנוי לניתוח של מסמכים שלמים או ספרים, למרות יעילות הטוקנייזר שלו.

שאלות
נפוצות

האם אפשר להשתמש בו לטקסטים בעברית?

לא, המודל אומן מאפס על קורפוס טורקי בלבד. הוא לא יזהה עברית בצורה תקינה וייצר פלט שגוי או מקוטע.

למה להעדיף מודל 2B ייעודי על פני LLaMA גדול?

הוא עוקף מודלים של 70B בבנצ'מרק הטורקי הספציפי, צורך שבריר מכוח העיבוד וחוסך עד חצי מעלות הטוקנים בגלל טוקנייזר מותאם.

איך מריצים

עם משקל קבצים של 4.4 גיגה-בייט ודיוק bfloat16, המודל הזה רץ בקלות על כרטיס מסך בודד עם 6 עד 8 גיגה זיכרון, או אפילו על מעבד של מחשב נייד חזק דרך ספריית transformers. קיימת גם גרסת בסיס ללא כוונון הוראות אם אתם צריכים לאמן אותו מחדש על דאטה פנימי, אבל לשיחה או משימות ישירות עדיף להישאר עם גרסת ה־Instruct הזו.

אם אתם צריכים רק פניות מזדמנות בטורקית או שאתם מפתחים שירות שפונה לקהל רחב במספר שפות, החזקת שרת ייעודי למודל כזה תהיה מיותרת. במקרים כאלה עדיף לגשת ל־API חיצוני של מודל כללי במקום להחזיק תשתית פרטית.

from transformers import pipeline

pipe = pipeline("text-generation", model="vngrs-ai/Kumru-2B")
print(pipe("שלום"))

הקבצים

8 קבצים במאגר, 4.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, מה שמאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או מסחרית בתוך המוצר שלכם. הדרישה היחידה היא לשמור על הצהרת זכויות היוצרים והרישיון המקורי של המפתחים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗