GPT
הוספת כלי
S

supergemma4-26b-abliterated-multimodal-mlx-4bit

קוד פתוח

Jiunsonggemma2026-04-12

  • mlx
  • safetensors
  • gemma4
  • multimodal
  • image-text-to-text

גרסת 4 ביט למק של מודל מולטימודלי בגודל 26B, שעבר הסרת סירובים. הוא מיועד למי שרוצה ניתוח תמונות וטקסט מקומי בלי מגבלות צנזורה מיותרות.

  • 26Bפרמטרים
  • 262,144טוקנים בהקשר
  • 14.6 GBמשקל הקבצים
  • 1,699הורדות בחודש

מה זה

מדובר בהמרה של מודל מולטימודלי ממשפחת ג׳מה 4 לפורמט MLX של אפל, עם כימות ל־4 ביט כדי לחסוך מקום וזיכרון. המודל מקבל תמונות וטקסט ומחזיר טקסט, כשהייחוד שלו הוא תהליך ה־abliteration שמוריד משמעותית את נטיית המודל לסרב לבקשות של המשתמש. אם האתר מציג לכם תגית של 5B או 8B, מדובר בבאג זיהוי של האתר בגלל קובצי ההגדרות של הכימות, בפועל אלו משקלים של 26B.

היוצר שילב כאן עדכון לתבנית השיחה שמתמקד בחילוץ מידע בהקשרים ארוכים, תיקון הנחות שגויות והקפדה על פלט של JSON נקי. בבדיקות של המודל המקורי הוא קיבל ציון מלא של 9 מתוך 9 במבחני יכולת ו־20 מתוך 20 באמינות, ובבדיקה המקומית הוא מזהה תמונות פשוטות ומגיב לטקסט בלי בעיה.

מתאים ל

  • ניתוח מסמכים ותמונות במק

    מאפשר לעבד תמונות וטקסט ישירות על חומרת אפל סיליקון, בלי לשלוח מידע רגיש לשרתים חיצוניים.

  • חילוץ נתונים במבנה JSON

    תבנית השיחה עודכנה במיוחד לייצור פלט בפורמט JSON מדויק מתוך טקסטים ארוכים ותמונות.

  • עיבוד טקסט ללא סירובים

    מתאים לתרחישים שבהם מודלים רגילים מסרבים לנתח טקסט עקב זיהוי שגוי של תוכן בעייתי.

איפה זה נופל

הכימות ל־4 ביט מקטין את טביעת הרגל בזיכרון, אבל מגיע עם פגיעה מסוימת בדיוק בהשוואה לגרסה המלאה. תהליך הסרת הסירובים מוריד חסמים, ולכן הוא עלול לפלוט תוכן בעייתי או לא מדויק בלי מנגנוני הבלימה המקוריים של גוגל. בנוסף, המודל אומן ותועד רק עבור אנגלית וקוריאנית, כך שאין שום הבטחה לגבי איכות העבודה שלו בעברית או בניתוח טקסטים מקומיים.

אותה משפחה

supergemma4-26b-abliterated-multimodal יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

supergemma4-26b-abliterated-multimodal265

שאלות
נפוצות

למה מופיע באתר שהמודל הוא בגודל 5B או 8B?

זה באג תצוגה של האתר שנובע מקובצי ההגדרות של מודלי MLX מכומתים. בפועל מדובר במודל של 26B פרמטרים שרץ בכימות 4 ביט.

האם אפשר להריץ את המודל על כרטיס של אנבידיה או לינוקס?

לא ישירות עם הקבצים האלה. המאגר הזה נבנה ספציפית עבור ספריית MLX שמיועדת למעבדי אפל סיליקון, ולכן לא ירוץ על מערכות אחרות.

איך מריצים

אתם צריכים מחשב מק עם מעבד אפל סיליקון וספריית mlx_vlm מותקנת. הקבצים תופסים 14.6 גיגה בייט על הדיסק, כך שהוא דורש פחות זיכרון מאשר הגרסה המקורית הלא מכומתת, אבל עדיין מדובר במודל 26B שדורש זיכרון אחוד סביר כדי לרוץ בצורה חלקה יחד עם הקשר ארוך.

ההרצה מתבצעת ישירות בפייתון עם פקודת הטעינה של mlx_vlm, או כשרת מקומי שמאזין לפורט וחושף ממשק לעבודה שוטפת. אם אין לכם חומרה של אפל עם מספיק זיכרון, אין מה לנסות להריץ את הקבצים האלה, ועדיף להשתמש ב־API חיצוני.

pip install -U huggingface_hub
hf download Jiunsong/supergemma4-26b-abliterated-multimodal-mlx-4bit

הקבצים

13 קבצים במאגר, 14.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא רישיון ג׳מה של גוגל. מותר להשתמש בו לצרכים מסחריים ומחקר, בכפוף לתנאי השימוש והמדיניות של גוגל בנוגע לשימוש אחראי. לפני שמשלבים אותו במוצר מסחרי, כדאי לוודא שהסרת מנגנוני הסירוב לא מתנגשת עם תנאי השימוש המקוריים של הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗