GPT
הוספת כלי
K

kanana-2-30b-a3b-instruct-2601

קוד פתוח

kakaocorpother2026-01-14

  • transformers
  • safetensors
  • deepseek_v3
  • text-generation
  • conversational

שילוב של ארכיטקטורת תערובת מומחים עם הפעלה של שלושה מיליארד פרמטרים בלבד בכל צעד. מתאים במיוחד למי שמפתח סוכנים אוטומטיים וזקוק לקריאות כלים מהירות בלי להחזיק מודל ענק.

  • 31Bפרמטרים
  • 32,768טוקנים בהקשר
  • 57.1 GBמשקל הקבצים
  • 1,337הורדות בחודש

מה זה

מדובר במודל שפותח על ידי תאגיד Kakao הקוריאני, ומבוסס על ארכיטקטורת DeepSeek V3. יש לו שלושים ואחד מיליארד פרמטרים בסך הכול, אך בזכות שימוש במאה עשרים ושמונה מומחים מתוכם נבחרים שישה בלבד בכל ריצה, המודל מפעיל שלושה מיליארד פרמטרים אקטיביים. המבנה הזה נועד לייצר מהירות הסקה גבוהה תוך שמירה על יכולות שמתחרות בדגמים מלאים.

התוצאות במבחנים מראות חוזק בולט במעקב אחרי הוראות מורכבות, שם הוא עוקף את Qwen3 המקביל בבדיקות דוגמת IFBench ואיכות קריאת כלים בודדת. מנגד, במשימות תכנות כלליות ומתמטיקה טהורה הוא נופל ממתחריו, כך שעיקר כוחו מתרכז בהפעלת ממשקים ובאינטראקציה מובנית ולא ביצירת קוד מאפס.

המודל כולל תמיכה מובנית בשש שפות, כולל אנגלית, קוריאנית, סינית, יפנית, תאילנדית וויאטנמית. עברית אינה מופיעה ברשימת השפות שנתמכות רשמית על ידי הטוקנייזר החדש, עובדה שמשפיעה ישירות על יעילות הריצה של טקסט מקומי.

מתאים ל

  • סוכני שירות לקוחות

    מתאים להפעלת פונקציות בודדות ומעקב אחרי הוראות מדויקות בזכות ניצול מועט של פרמטרים אקטיביים.

  • אוטומציה במזרח אסיה

    עובד היטב מול שווקים בקוריאה, יפן או תאילנד בזכות טוקנייזר ייעודי לשפות אלה.

  • קריאת מסמכים ארוכים

    תומך בהרחבת הקשר מעבר לשלושים ושניים אלף טוקנים באמצעות מנגנון הריכוך המובנה.

איפה זה נופל

החולשה העיקרית נמצאת בקריאות כלים מורכבות שנמשכות לאורך שיחות ארוכות. במבחן הרב שלבי המודל משיג ציון של שלושים ושמונה אחוזים בלבד, מה שאומר שהוא מתבלבל בקלות בסדר הפעולות כשהמשימה מסתעפת. בנוסף, הביצועים שלו במבחני קוד כמו HumanEval נמוכים משמעותית מהמתחרים הסיניים בקטגוריה.

מעבר לכך, אין תיעוד ליכולות בעברית. שימוש בטקסט מקומי ידרוש מספר טוקנים גבוה בהרבה מהרגיל, ינפח את חלון ההקשר ויפגע במהירות הריצה. אם המוצר שלכם פונה לשוק המקומי או נשען על קוד מסובך, חובה לבדוק את התפוקה מראש לפני שמתחייבים לפריסה.

שאלות
נפוצות

האם המודל ירוץ בצורה יעילה על עברית?

הטוקנייזר הותאם לשש שפות בלבד שרובן מאסיה, ועברית אינה חלק מהן. המשמעות היא שכל מילה בעברית תתפרק למספר רב של טוקנים, מה שייקר את העיבוד ויאט את קצב התגובה.

מה ההבדל בין גרסת הבסיס לגרסת ה־Instruct הזו?

גרסת האינסטראקט עברה כוונון ייעודי למעקב אחרי הוראות שיחה ולהפעלת כלים חיצוניים. גרסאות הבסיס מיועדות לאימון המשך או מחקר, ולא מגיבות נכון לשאלות ישירות.

איך מגדילים את חלון ההקשר מעבר ל־32K?

עורכים את קובץ ההגדרות ומוסיפים פרמטרי הרחבה מסוג YaRN, מה שמאפשר טיפול בעד מאה עשרים ושמונה אלף טוקנים במנועי הסקה תואמים.

איך מריצים

כדי להריץ אותו מקומית תצטרכו כרטיס גרפי בעל זיכרון של שישים גיגה בייט לפחות, או שרת ייעודי בענן עם צמד כרטיסים. הקבצים שוקלים חמישים ושבעה גיגה בייט, כך שאי אפשר להסתפק בחומרת שולחן עבודה רגילה בלי לבצע קוונטיזציה משמעותית. המודל נתמך ישירות על ידי מנועי הסקה כמו vLLM ו־SGLang, כולל הגדרות מובנות לפיענוח קריאות כלים.

אם אתם לא מעוניינים להקים שרת שלם עבור מודל מומחים, עדיף להשתמש ב־API מרוחק של ספקים שמציעים גישה לדגמי DeepSeek או Qwen. התעסקות בחומרה פרטית מוצדקת כאן רק אם אתם חייבים פרטיות מלאה או בונים סוכן שרץ ברשת מקומית סגורה.

from transformers import pipeline

pipe = pipeline("text-generation", model="kakaocorp/kanana-2-30b-a3b-instruct-2601")
print(pipe("שלום"))

הקבצים

23 קבצים במאגר, 57.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד שוחרר תחת רישיון ייעודי בשם Kanana License שמוגדר במאגר כרישיון אחר. הפרטים המדויקים של התנאים המסחריים וההגבלות אינם מפורטים בעמוד ההורדה הראשי. צוותים שמתכננים להטמיע את המשקלים במוצר מסחרי חייבים לבדוק את קובץ הרישיון המצורף כדי לוודא שאין איסור על שימוש מסחרי או דרישה לחשיפת קוד.

הרישיון המלא בעמוד המודל ↗