Gemma-4-26B-A4B-StyleTune-V2

מה זה

גריף לקח את ג'מה 4 בארכיטקטורת תערובת מומחים ואימן בה טנסור אחד בלבד, שכבת הפלט הסופית שבוחרת את הטוקן הבא. הרעיון הוא לשנות לחלוטין את הקול של המודל מבלי לפגוע בידע, ביכולת הניתוח או בהבנת ההוראות שנמצאים בשכבות העמוקות יותר. הגרסה הזו נבנתה באיפוק על פני תקופת אימון בודדת, אחרי שבגרסה הקודמת התברר שאימון ארוך מדי משבש מודלים מהסוג הזה.

המטרה המרכזית פה היא כתיבה יצירתית ומשחקי תפקידים. בבדיקה מול מאתיים פרומפטים שונים בהשוואה למודל ההוראות הבסיסי, המודל הציג ירידה של חמישים ושניים אחוזים בכמות הקלישאות למאה מילים. בנוסף, חפיפת רצפי המילים מול מודל הבסיס עומדת על פחות מעשרים אחוז, מה שאומר שהוא בוחר ביטויים אחרים לגמרי ופחות צפויים, במקום לחזור על אותם ניסוחים משעממים.

מתאים ל

• משחקי תפקידים באנגלית

  מייצר דיאלוגים מגוונים עם חצי מכמות הקלישאות הרגילה ובלי הניסוחים הרובוטיים של מודלי בסיס.

• כתיבת סיפורים ועלילה

  משתמש באוצר מילים שונה משמעותית ממודל הבסיס כדי ליצור טקסט שנשמע פחות צפוי ושבלוני.

• דמויות וירטואליות למשחקים

  מתאים לדיבוב או כתיבה של דמויות שצריכות קול ייחודי אבל עדיין חייבות לשמור על הגיון והבנת הקשר.

איפה זה נופל

המודל הזה אומן אך ורק על אנגלית ועל דאטה נרטיבי, בלי נתוני הוראות רגילים. אם אתם צריכים עברית, הוא פשוט לא מיועד לזה ואין מה לבנות עליו. הוא גם לא עבר שום התאמה למשימות טכניות כמו קוד, ניתוח נתונים או סיכום מסמכים עסקיים. המפרסם עצמו מציין שהבדיקות שלו התמקדו אך ורק בכתיבה יוצרת ובמשחקי תפקידים, ולכן לפני שמשלבים אותו במוצר כלשהו חובה לבדוק שהוא עדיין עוקב אחרי הוראות מורכבות ולא נסחף לדרמטיזציה יתר.

אותה משפחה

Gemma-4-26B-A4B-StyleTune יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים מגיע לכמעט חמישים גיגה בייט, כך שאי אפשר להריץ אותו על כרטיס מסך ביתי בודד בלי קוונטיזציה כבדה. כדי להריץ אותו באופן מקומי באיכות מלאה תצטרכו תחנת עבודה עם לפחות שני כרטיסים מקצועיים או מערך של שרת ענן. המפרסם ממליץ להריץ אותו עם טמפרטורה של אחת, ערך מינימום הסתברות של אפס נקודה אחת, ודוגם מסוג די אר וואי. פורמט הפרומפט נשאר זהה לפורמט השיחה המקורי של ג'מה 4.

אם אין לכם את החומרה המתאימה או שאתם לא רוצים לשלם על שרת ייעודי שעומד באוויר, חפשו ספק שמחזיק מודלי קוד פתוח עם תשלום לפי טוקנים. יש גם גרסאות קטנות יותר מאותה סדרה בגדלי 12B וגרסה גדולה של 31B, כך שאפשר לרדת במשקל אם המשאבים מוגבלים.

pip install -U huggingface_hub
hf download Gryphe/Gemma-4-26B-A4B-StyleTune-V2

הקבצים

12 קבצים במאגר, 49.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors49.2 GB
• model-00002-of-00002.safetensors3.9 GB
• tokenizer.json32.2 MB
• Gemma-4-26B-A4B-StyleTune-V2.jpg658.8 KB
• model.safetensors.index.json103.3 KB
• chat_template.jinja16.4 KB
• config.json3.8 KB
• README.md3.8 KB
• tokenizer_config.json2.7 KB
• processor_config.json1.7 KB
• .gitattributes1.6 KB
• generation_config.json204 B

הרישיון

הקוד והמשקולות מפורסמים תחת רישיון אפאצ'י שתיים, שמאפשר שימוש מסחרי חופשי לחלוטין. מותר לכם לשלב אותו במוצר מסחרי, לשנות אותו ולהריץ אותו באופן פרטי, בתנאי שאתם שומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗