GPT
הוספת כלי
H

Huihui-gemma-4-26B-A4B-it-abliterated

קוד פתוח

huihui-aiapache-2.02026-04-11

  • transformers
  • safetensors
  • gemma4
  • image-text-to-text
  • abliterated

גרסה פתוחה של גמא עם כמעט 27 מיליארד פרמטרים שנועדה לעקוף את מנגנוני הסירוב המקוריים של גוגל. מי שמחפש מודל שלא יטיף לו מוסר ימצא כאן מענה ישיר.

  • 27Bפרמטרים
  • 262,144טוקנים בהקשר
  • 48.1 GBמשקל הקבצים
  • 1,554הורדות בחודש

מה זה

הבסיס כאן הוא מודל של גוגל שעבר תהליך הסרת סירובים באמצעות שינוי ישיר של המשקולות, בלי לגעת בחמש השכבות הראשונות ובלי לגעת במומחים בכל שכבה. היוצרים מגדירים את זה כהוכחת היתכנות גולמית שנועדה לנקות את מנגנוני הבלימה גם במצב חשיבה וגם במצב רגיל.

התוצאה היא כלי שמגיב לבקשות שבמקור היו נחסמות מיד, אם כי הוא עדיין עשוי לפלוט אזהרות בגלל השכבות הראשונות שלא שונו. אין כאן מבחני ביצועים שמראים אם היכולות הכלליות נפגעו בעקבות המניפולציה הזו, ולכן צריך לבדוק היטב אם הדיוק לא נשחק בדרך.

מתאים ל

  • מחקר על מנגנוני סירוב

    מאפשר לבחון איך מודל מתנהג כשההגנות שלו נוטרלו באופן ישיר במשקולות.

  • ניתוח טקסטים רגישים

    מתאים לסריקת תוכן שמעלה בדרך כלל דגלים אדומים וחוסמת מודלים רגילים.

  • סביבות בדיקה סגורות

    עובד טוב כשרת מקומי לניסויים שבהם לא רוצים הטפה או חסימות שרירותיות.

איפה זה נופל

היוצרים עצמם מודים שמדובר במימוש גולמי לחלוטין ולכן אין כאן שום רשת ביטחון. השכבות הראשונות שלא עברו שינוי עדיין יכולות לפלוט אזהרות בטקסט, גם אם הוא לא מסרב בסוף, והסינון המופחת עלול להוביל לפלט פוגעני או בעייתי משפטית. לא כדאי להשתמש בזה במוצר שפונה ללקוחות בלי לבנות שכבת בקרה נפרדת משלכם.

שאלות
נפוצות

האם המודל יסרב לפעמים לענות לשאלות?

לפי הצהרת המפתחים הוא לא אמור לסרב כלל, לא במצב חשיבה ולא במצב רגיל. עם זאת, חמש השכבות הראשונות לא שונו ולכן אתם עשויים לראות אזהרות בטקסט עצמו לפני התשובה.

איך אפשר להריץ אותו בלי להוריד עשרות גיגות ידנית?

היוצרים העלו גרסה מוכנה לאולמה בשם huihui_ai/gemma-4-abliterated:26b. פשוט מריצים את פקודת ההרצה הרגילה בגרסה העדכנית של התוכנה.

איך מריצים

כדי להרים את הקבצים המקוריים בגודל 48.1 גיגה בייט צריך כרטיס מסך חזק עם לפחות 48 עד 64 גיגה זיכרון גרפי, או לחלופין לפצל אותו על כמה כרטיסים. אם אין לכם חומרה כזו מקומית, זה פשוט לא ירוץ בלי קוונטיזציה כבדה.

למי שרוצה לבדוק אותו בקלות בלי להסתבך עם הגדרות מסובכות בספריית הטרנספורמרס, אפשר למשוך גרסה מוכנה ישירות דרך אולמה בעזרת הפקודה שפרסמו היוצרים.

from transformers import pipeline

pipe = pipeline("any-to-any", model="huihui-ai/Huihui-gemma-4-26B-A4B-it-abliterated")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 48.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא אפאצ'י 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להפיץ אותו מחדש ולשלב אותו במוצרים, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי. היוצרים מסירים כל אחריות לנזק שייגרם מהשימוש בתוצרים שלו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗