sarashina2.2-3b-instruct-v0.1

מה זה

מדובר במודל שפה אוטורגרסיבי מבוסס ארכיטקטורת LLaMA עם 3.4 מיליארד פרמטרים, שפותח בידי חברת SB Intuitions ומיועד ספציפית ליפנית. הוא כולל חלון הקשר של 8,192 טוקנים ומגיע לאחר אימון להבנת הוראות.

במבחני ביצועים מול מודלים מקבילים בקטגוריית המשקל שלו, כמו Qwen2.5 בנפח 3B או Gemma-2 בנפח 2B, הוא מוביל במובהק במשימות ביפנית. בבדיקת Elyza-tasks-100 הוא הגיע לציון 3.75 לעומת פחות מ־3 אצל המתחרים, וב־Japanese MT Bench הוא קיבל 6.51. באנגלית הוא מעט חלש יותר מ־Qwen עם 7.71 לעומת 7.88, אבל ההתמחות היפנית שלו ניכרת מאוד.

מתאים ל

• בוט תמיכה פנימי ביפנית

  הוא מציג ציונים גבוהים בבנצ'מרקים ביפנית ומתאים להרצה מקומית על שרת קטן ומאובטח.

• תיוג ומיון מסמכים ביפן

  חלון הקשר של 8,192 טוקנים מאפשר לנתח מסמכים בינוניים ביפנית בזמני תגובה מהירים.

• בסיס לכוונון עדין עסקי

  משקלו הקל ורישיון MIT מאפשרים לאמן אותו על דאטה ארגוני ספציפי בלי עלויות מחשוב כבדות.

איפה זה נופל

היוצרים מבהירים במפורש שהמודל עבר אימוני בטיחות מוגבלים מאוד. המשמעות היא שהוא עלול לייצר טקסט חסר משמעות, מידע שגוי לחלוטין או פלטים פוגעניים ומוטים. לא כדאי לחבר אותו למשתמשי קצה בלי לבצע כוונון עדין נוסף ולהוסיף שכבות סינון. בנוסף, הוא מוגדר עבור יפנית בלבד ולא מתאים כלל לעברית.

איך מריצים

המודל שוקל כ־6.3 גיגה־בייט בדיוק bfloat16, מה שאומר שאפשר להריץ אותו בלי בעיה על כרטיס מסך בודד עם 8 עד 12 גיגה זיכרון, או אפילו על מחשב נייד חזק אם מבצעים קוונטיזציה. בגלל הארכיטקטורה המוכרת, הטעינה דרך ספריות סטנדרטיות פשוטה וישירה.

אם כל מה שאתם צריכים זה שאילתה פה ושם, כנראה שחבל להרים בשבילו שרת ייעודי ועדיף לפנות למודל גדול יותר דרך ממשק קיים. לעומת זאת, אם אתם מריצים עיבוד של טקסטים רגישים ביפנית או צריכים שיהוי נמוך בסביבה מקומית, המשקל הקל שלו מצדיק הרצה עצמאית.

pip install -U huggingface_hub
hf download sbintuitions/sarashina2.2-3b-instruct-v0.1

הקבצים

11 קבצים במאגר, 6.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors1.7 GB
• tokenizer.model1.8 MB
• model.safetensors.index.json22.8 KB
• tokenizer_config.json6.4 KB
• README.md4.8 KB
• .gitattributes1.5 KB
• LICENSE1.1 KB
• special_tokens_map.json968 B
• config.json677 B
• generation_config.json134 B

הרישיון

הפרויקט מופץ תחת רישיון MIT. זה רישיון פתוח לחלוטין שמאפשר שימוש מסחרי, שינוי קוד והפצה מחדש בלי הגבלות מיוחדות, מלבד שמירה על הצהרת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗