GPT
K

kanana-nano-2.1b-instruct

קוד פתוח

kakaocorpcc-by-nc-4.02025-02-26

  • transformers
  • safetensors
  • llama
  • text-generation
  • conversational

מודל שיחה קומפקטי ודו לשוני של Kakao שתוכנן במיוחד לעבודה בקוריאנית ובאנגלית. הוא פונה למי שצריך הרצה מקומית קלה מאוד בלי לוותר על הבנה טובה של קוריאנית.

  • 2.1Bפרמטרים
  • 8,192טוקנים בהקשר
  • 3.9 GBמשקל הקבצים
  • 3,431הורדות בחודש

מה זה

מדובר במודל שפותח על ידי Kakao ומיועד למשימות יצירת טקסט והוראות. הדגש העיקרי שלו הוא יכולת דו לשונית שמשלבת קוריאנית ואנגלית, כאשר המפתחים כיוונו לחסוך במשאבי חישוב דרך סינון דאטה, זיקוק ואימון בשלבים.

בגזרה הקוריאנית המודל מציג יתרון ברור על פני מתחרים מערביים בגודל דומה. במבחנים מקומיים כמו LogicKor הוא מגיע לציון 7.964 לעומת 4.452 בלבד של Llama-3.2-3b. מצד שני, במבחני ידע כללי ומדעים באנגלית כמו MMLU הוא עומד על 52.48, ציון שנמוך מהמתחרים שלו, וגם במתמטיקה מורכבת במבחן MATH הוא נעצר על 29.26 בלבד.

מתאים ל

  • בוט שיחה מקומי לקוריאנית

    הוא מציג ציונים גבוהים במעקב אחר הוראות בקוריאנית ורץ בקלות על מחשב מקומי.

  • סיווג טקסטים דו לשוני

    מתאים לעיבוד והבנה של מסמכים המשלבים קוריאנית ואנגלית בחלון של עד 8,192 טוקנים.

  • מערכות מחקר ובדיקות

    משקלו הקל מאפשר ניסויי מעבדה ואימון עדין במשאבי מחשוב מוגבלים ללא צורך בענן.

איפה זה נופל

המודל הזה לא יודע עברית. הוא אומן באופן מובהק על אנגלית וקוריאנית בלבד, כך שכל ניסיון להזין לו פרומפטים בעברית יסתיים בפלט משובש או בהזיות. בנוסף, יכולות החישוב והמתמטיקה שלו חלשות ביחס למודלים אחרים באותה קטגוריה, כמו Qwen2.5-3b שעוקף אותו בפער גדול במבחני חשיבה כמותית. הוא מתאים לשיחה ולעיבוד טקסט פשוט, לא לפתרון בעיות לוגיות מורכבות.

אותה משפחה

kanana-nano יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם המודל מתאים למוצרים שפונים לקהל ישראלי?

לא. המודל תומך רשמית באנגלית וקוריאנית בלבד ואינו כולל אימון לעברית. לקהל מקומי עדיף לבחור במודלים בעלי תמיכה רב לשונית מוכחת.

האם אפשר להשתמש בו באפליקציה בתשלום?

לא, הרישיון שלו הוא לשימוש לא מסחרי בלבד. כל פעילות שמניבה רווח מחייבת מודל חלופי עם רישיון פתוח לעסקים.

איך מריצים

המודל שוקל 3.9 גיגה בייט בפורמט bfloat16 ומבוסס על ארכיטקטורת Llama רגילה, כך שתוכלו להריץ אותו עם ספריית transformers מגרסה 4.45.0 ומעלה. בשביל להעלות אותו לא תצטרכו שרת כבד, כרטיס מסך בסיסי עם 6 עד 8 גיגה זיכרון יספיק לגמרי לעבודה שוטפת.

אם כל מה שמעניין אתכם זה אנגלית או קידוד, עדיף להשתמש ב־API מרוחק של מודל ענק. הרצה עצמית של המודל הזה משתלמת בעיקר כשאתם חייבים עיבוד מקומי שמתמודד היטב עם טקסט קוריאני בלי עלויות שרת גבוהות.

from transformers import pipeline

pipe = pipeline("text-generation", model="kakaocorp/kanana-nano-2.1b-instruct")
print(pipe("שלום"))

הרישיון

המודל מופץ תחת רישיון cc-by-nc-4.0. המשמעות פשוטה: מותר להשתמש בו למחקר, בדיקות ופיתוח פנימי, אבל חל איסור מוחלט לשלב אותו במוצר מסחרי, למכור שירות שמבוסס עליו או לייצר ממנו הכנסות ישירות ועקיפות.

  • שינוי הקוד
  • חובת ייחוס
  • שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗