Huihui-gemma-4-12B-it-abliterated
קוד פתוחhuihui-aiapache-2.02026-06-06
גרסה נטולת סינונים למודל של גוגל שמסירה את מנגנוני הסירוב המובנים. מתאים למי שרוצה תשובות ישירות בלי הטפות מוסר או חסימות מיותרות.
- 12Bפרמטרים
- 131,072טוקנים בהקשר
- 22.3 GBמשקל הקבצים
- 2,598הורדות בחודש
מה זה
מדובר בהסבה של גוגל גמה בגודל 12 מיליארד פרמטרים, שעברה תהליך של הסרת סירובים בשכבות עשרים ושלוש עד עשרים ושמונה בלבד. היוצרים השתמשו בשיטה ישירה דרך טרנספורמרס כדי לנטרל את התגובות שמסרבות לענות על שאלות רגישות. התהליך בוצע גם למצב החשיבה וגם למצב הרגיל של המודל, כך שהוא לא אמור להטיף מוסר או לחסום בקשות בשום תצורה.
ההבדל העיקרי מול גרסת המקור הוא שהמודל הזה פשוט עונה. עם חלון הקשר של מאה שלושים ואחד אלף טוקנים ומשקל קבצים של מעל עשרים ושניים גיגה בייט, אתם מקבלים כלי שמסוגל לעבד מסמכים ארוכים ומורכבים בלי להיכנס למגננה כשמופיע תוכן שנוי במחלוקת. היוצרים עצמם מגדירים אותו כהוכחת היתכנות גולמית ולא כמוצר מלוטש, לכן כדאי לקחת בחשבון שאין פה אופטימיזציה מורכבת אלא שינוי כירורגי ממוקד.
מתאים ל
- מחקר אבטחה ובדיקות חדירה
מאפשר לבדוק תרחישי תקיפה וניתוח חולשות בלי להיתקל בסירובים אוטומטיים.
- כתיבה יצירתית ללא סינון
מייצר דיאלוגים וסיפורים למבוגרים בלי שמנגנוני בטיחות יצנזרו עלילות מורכבות.
- ניתוח טקסטים רגישים
מעבד מסמכים משפטיים או רפואיים קשים מבלי לעצור בגלל מילות מפתח בעייתיות.
איפה זה נופל
היוצרים מזהירים במפורש שמדובר בהוכחת היתכנות ראשונית, והבטיחות הוסרה כמעט לגמרי. המודל עלול לפלוט תכנים רגישים, פוגעניים או בלתי חוקיים בלי שום אזהרה, והוא אינו מתאים למוצרים שפונים לציבור הרחב או לילדים. בנוסף, הייתה בעיה במשקולות המקוריות של גוגל שהצריכה מהיוצרים לבצע את התהליך מחדש, כך שחובה לוודא שהורדתם את הגרסה המעודכנת.
שאלות
נפוצות
האם המודל שומר על יכולות הניתוח של המקור?
השינוי נעשה רק בשכבות עשרים ושלוש עד עשרים ושמונה כדי להסיר סירובים בלבד. יכולות ההבנה והטקסט הכלליות נשמרות, אבל כדאי לבדוק אותו במשימות שלכם כדי לוודא שאיכות הפלט לא נפגעה.
איך הכי קל להריץ אותו על המחשב?
הדרך הפשוטה ביותר היא להשתמש בגרסת האולמה הרשמית שהיוצרים העלו. פקודת הרצה אחת בטרמינל תוריד את הקבצים המתאימים ותטען אותו מיד לעבודה מקומית.
האם צריך להיזהר בשימוש מסחרי?
מבחינת הרישיון אין מניעה, אך היעדר מנגנוני הבטיחות חושף אתכם לתביעות או לפגיעה במשתמשים. אם מחברים אותו למוצר חיצוני, חובה להוסיף שכבת סינון וניטור משלכם.
איך מריצים
בשביל להריץ את עשרים ושניים הגיגה בייט האלה בפורמט המקורי עם ספריות פייתון, אתם צריכים כרטיס מסך עם עשרים וארבעה גיגה זיכרון לפחות, כמו כרטיס מקצועי או דגם קצה ביתי. אם המשאבים שלכם מוגבלים, אפשר למשוך אותו ישירות דרך אולמה בפקודה אחת פשוטה, שם הוא ירוץ בקלות רבה יותר על חומרה צנועה בזכות דחיסה.
אם אין לכם כרטיס גרפי מתאים ואתם מתכננים להשתמש בו בהיקף נמוך, הרצה עצמית בשרת ענן שכור עלולה להיות יקרה ומיותרת מול פתרונות מנוהלים. עם זאת, בגלל שהמודל נטול סינונים, לא תמצאו לו שירות ענן רשמי של חברות גדולות, אז תצטרכו להרים מכונה משלכם.
from transformers import pipeline
pipe = pipeline("any-to-any", model="huihui-ai/Huihui-gemma-4-12B-it-abliterated")
print(pipe("שלום"))הקבצים
9 קבצים במאגר, 22.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הפרויקט מופץ ברישיון אפאצ'י שתיים, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית בלי תמלוגים. עם זאת, היוצרים מדגישים שכל האחריות המשפטית על הפלטים והשימוש במודל חלה עליכם בלבד.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים