Huihui-gemma-4-E2B-it-abliterated
קוד פתוחhuihui-aiapache-2.02026-04-08
גרסה נטולת סינונים של גוגל גמה עם חמישה מיליארד פרמטרים. מי שמוריד אותה מחפש מענה ישיר לבקשות שבדרך כלל נחסמות במודלים מסחריים.
- 5.1Bפרמטרים
- 131,072טוקנים בהקשר
- 9.6 GBמשקל הקבצים
- 2,357הורדות בחודש
מה זה
מדובר בהסבה של המודל של גוגל בשיטת אבלטרציה, שמטרתה לנטרל את מנגנוני הסירוב המובנים. מי שיצר אותו עשה זאת כהוכחת היתכנות גולמית כדי להסיר סירובים באמצעות ספריית טרנספורמרס, בלי להישען על כלים מורכבים יותר כמו טרנספורמר-לנס. הייחוד כאן הוא ביטול הסירובים גם במצב חשיבה וגם במצב רגיל, כך שהוא לא אמור להתחמק משאלות קשות או להרצות למשתמש.
המודל מגיע עם חלון הקשר עצום של 131,072 טוקנים ומשימת קלט-פלט כללית, אבל בלי שום מבחני ביצועים בכרטיס המקורי. חסר כל מידע על פגיעה אפשרית ביכולות ההיגיון שלו בעקבות השינוי במשקולות, ולכן צריך לבדוק אותו בעצמכם על משימות ספציפיות כדי לוודא שהאיכות לא נשחקה.
מתאים ל
- בדיקת חסינות מערכות
מייצר תרחישים שמשמשים לבחינת פילטרים חיצוניים בלי שהמודל עצמו יסרב לייצר את הטקסט.
- מחקר על מנגנוני סירוב
משמש כבסיס ניסיוני לבדיקת השפעת נטרול שכבות על התנהגות מודלי שפה.
- עיבוד מסמכים ארוכים
מנצל חלון של 131,072 טוקנים כדי לנתח טקסטים גדולים בלי צנזורה על נושאים רגישים.
איפה זה נופל
היוצר מודה שמדובר ביישום גולמי שבו עשר השכבות הראשונות כלל לא עברו ניקוי, כך שעדיין תיתקלו בסירובים אקראיים. אין שום מנגנוני בטיחות או אופטימיזציה, הפלט עלול להיות שנוי במחלוקת או רגיש, והכרטיס מזהיר במפורש מפני שילוב שלו במוצרים ציבוריים או סביבות מסחריות.
שאלות
נפוצות
האם המודל יסרב לחלק מהבקשות שלי?
כן, עשר השכבות הראשונות לא עברו אבלטרציה, ולכן חלק ממנגנוני ההגנה של גוגל עדיין פעילים ועשויים לחסום פלטים מסוימים.
האם אפשר להריץ אותו על מחשב נייד רגיל?
רק אם יש לכם מחשב עם זיכרון גרפי ייעודי של לפחות 12 ג'יגה בייט או דרך מעבד עם אולמה, אחרת ההרצה תהיה איטית מאוד.
האם כדאי לשלב אותו באפליקציה למשתמשי קצה?
לא. הכרטיס מציין במפורש שהוא מיועד למחקר ולסביבות מבוקרות, ואין בו שום התחייבות ליציבות או סינון תוכן פוגעני.
איך מריצים
המשקל הכולל עומד על 9.6 ג'יגה בייט בתשעה קבצים, מה שדורש כרטיס מסך עם לפחות 12 עד 16 ג'יגה זיכרון כדי להריץ אותו מקומית בצורה חלקה בפורמט המקורי.
אפשר למשוך ולהריץ אותו ישירות באולמה בפקודה אחת דרך התג הייעודי. אם אין לכם חומרה מקומית מתאימה ואתם לא חייבים מודל נטול מגבלות, עדיף להשתמש בשרת ענן חיצוני או בגרסה הרשמית של גוגל.
from transformers import pipeline
pipe = pipeline("any-to-any", model="huihui-ai/Huihui-gemma-4-E2B-it-abliterated")
print(pipe("שלום"))הקבצים
9 קבצים במאגר, 9.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא אפאצ'י שתיים אפס, שמתיר שימוש חופשי, שינוי קוד והפצה מסחרית בלי תמלוגים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי אחריות משפטית מצד היוצרים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים