Huihui-GLM-5.2-abliterated-GGUF

קוד פתוח

huihui-aimit2026-06-28

transformers
gguf
glm_moe_dsa
unsloth
abliterated

גרסה נטולת סינונים של GLM-5.2 שמיועדת להסרת סירובים. מתאים למי שחייב מודל שלא עוצר על כל נושא רגיש ומוכן להתעסק עם קבצי ענק.

1.1 TBמשקל הקבצים
9,905הורדות בחודש
346לייקים

מה זה

הפרויקט הזה לוקח את GLM-5.2 ומסיר ממנו את מנגנוני הסירוב באמצעות שיטת abliteration ישירות על קובצי GGUF. היוצרים מגדירים את זה כהוכחת היתכנות גולמית שנעשתה בלי שימוש בכלים מתקדמים כמו TransformerLens. הם לא נגעו ב־12 השכבות הראשונות ובכל מודולי המומחים, מה שהגדיל מעט את גודל הקבצים ביחס למקור.

המודל מיועד ליצירת טקסט באנגלית ובסינית בלבד. אין כאן נתוני ביצועים או השוואות רשמיות שמראות אם הסרת הסירובים פגעה בהיגיון הכללי, אבל יש מעבר של חלק מהמשקולות לפורמטים כמו Q8_0 ו־MXFP4 כדי לייעל את התוצאה הסופית.

מתאים ל

מחקר על הסרת סירובים
בדיקת ההשפעה של מחיקת מנגנוני הבטיחות ישירות על קובצי משקולות מכווצים.
ניתוח טקסטים רגישים
עיבוד תכנים שגורמים למודלים רגילים לסרב להגיב באנגלית ובסינית.
סביבות בדיקה סגורות
הערכת ביצועי GLM נטול צנזורה במערכות פנימיות שלא חשופות למשתמשי קצה.

איפה זה נופל

היוצרים עצמם מזהירים שמדובר בניסוי גולמי בלי אופטימיזציית בטיחות, ולכן הוא מייצר בקלות פלטים רגישים, בוטים ולא הולמים. עברית בכלל לא מוגדרת כאן כשפה נתמכת, אז לא כדאי לבנות עליו למשימות מקומיות. בנוסף, הסרת הסירובים עלולה לשבור את יכולת ההסקה הכללית, והכרטיס ממליץ מפורשות לא לשלב אותו במערכות ייצור או מוצרים שפונים לקהל הרחב בלי פיקוח ידני רציף.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה בעברית?

המודל מוגדר רשמית עבור אנגלית וסינית בלבד. הוא לא אומן או נבדק לעברית, ולכן לא מומלץ להסתמך עליו למשימות בשפה זו.

איך מחברים את הקבצים אחרי ההורדה?

יש לקמפל את llama.cpp ולהריץ את הכלי llama-gguf-split עם דגל merge כדי לאחד את חלקי ה־GGUF לקובץ שלם אחד שניתן לטעון.

האם הוא מתאים למוצר מסחרי שפונה למשתמשים?

ממש לא. היוצרים מציינים במפורש שמנגנוני הבטיחות הוסרו ואין שום אחריות על הפלטים, ולכן שימוש כזה דורש בקרה אנושית מחמירה או שכבת הגנה נפרדת.

איך מריצים

המשקל הכולל של הקבצים בריפו מגיע ל־1.1 טרה-בייט שמחולקים בין 31 קבצים, כך שצריך שטח אחסון מסיבי מאוד רק כדי להוריד חלקים ממנו. ההרצה דורשת כלי llama.cpp. אחרי ההורדה עם huggingface-cli צריך להשתמש בתוכנת llama-gguf-split כדי לאחד את הקבצים המפוצלים לקובץ GGUF בודד לפני שאפשר לטעון אותו.

אם אין לכם שרת ייעודי עם מספיק זיכרון VRAM או RAM וכוח מחשוב מתאים לקבצים בסדר הגודל הזה, חבל על המאמץ של ההורדה והאיחוד הידני. במקרה כזה עדיף לחפש שירות חיצוני שמאפשר קריאות רשת למודלים דומים.

ollama run hf.co/huihui-ai/Huihui-GLM-5.2-abliterated-GGUF:Q2_K_MXFP4

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

31 קבצים במאגר, 1.1 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, מה שנותן חופש כמעט מוחלט לשימוש אישי או מסחרי, כולל שינוי והפצה, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

שימוש מסחרי
שינוי הקוד
הפצה מחדש

הרישיון המלא בעמוד המודל ↗