Huihui-Qwen3-4B-abliterated-v2

מה זה

היוצרים לקחו את Qwen3-4B וביצעו עליו תהליך abliteration, שמסיר את מנגנוני הסירוב המובנים ישירות מתוך המשקולות. בגרסה השנייה הזו הם שינו את שכבה 0 כדי לפתור בעיה של טקסט משובש שהופיעה בגרסה הקודמת, והשתמשו בשיטה מהירה יותר שמציגה לטענתם תוצאות טובות יותר.

בגודל של 4 מיליארד פרמטרים עם חלון הקשר של 40,960 טוקנים, הוא נותן מענה למשימות יצירת טקסט בלי העכבות של מודלים מסחריים רגילים. אין בדף המודל מבחני ביצועים רשמיים או ציונים השוואתיים, כך שקשה לדעת אם התהליך פגע ביכולות ההיגיון הכלליות שלו לעומת גרסת המקור.

מתאים ל

• מחקר על עקיפת סינונים

  בדיקת התנהגות של מודלים שעברו הסרת מנגנוני סירוב ללא שימוש בכלים ייעודיים כבדים.

• יצירת תוכן ללא הגבלות

  כתיבה בסביבה מקומית סגורה שבה מודלים מסחריים רגילים מסרבים לשתף פעולה עם הבקשה.

• בדיקות אוטומציה פנימיות

  הרצה מקומית קלת משקל על חומרה צנועה שלא דורשת חיבור לרשת חיצונית.

איפה זה נופל

היוצרים מבהירים שמדובר במימוש בסיסי לניסויים בלבד ולא במודל שעבר אופטימיזציית בטיחות. המודל עלול לייצר תוכן פוגעני, רגיש או לא חוקי, ואין בו שום מנגנון בקרה מובנה. היוצרים עצמם ממליצים להימנע משימוש ישיר מול לקוחות בסביבת ייצור, ומחייבים בדיקה ידנית או ניטור רציף כדי לא להסתבך עם פלט בעייתי.

איך מריצים

המשקל הכולל של הקבצים עומד על 7.5 גיגה בייט בדיוק bfloat16, כך שכרטיס מסך ביתי עם 8 או 12 גיגה זיכרון יחזיק אותו בקלות. אפשר לטעון אותו עם ספריית transformers או להריץ ישירות ב־Ollama תחת השם המותאם, עם תמיכה במצבי חשיבה דרך פקודות ייעודיות.

אם אתם צריכים רק מענה מהיר לבדיקות קצרות ואין לכם כרטיס גרפי זמין, שימוש בשרת ענן זמני עדיף על שדרוג מקומי. למשימות שדורשות פרטיות מוחלטת או כתיבה ללא סינון, הרצה מקומית על החומרה שלכם היא הפתרון היחיד.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/Huihui-Qwen3-4B-abliterated-v2")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 7.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors3.1 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json33.2 KB
• README.md11.6 KB
• tokenizer_config.json5.6 KB
• chat_template.jinja4.2 KB
• .gitattributes1.6 KB
• config.json757 B
• added_tokens.json735 B
• special_tokens_map.json644 B
• generation_config.json227 B

הרישיון

רישיון apache-2.0 מאפשר שימוש חופשי לחלוטין, כולל שינוי הקוד, הפצה ושימוש מסחרי במוצרים שלכם. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי שהיוצרים ייקחו אחריות על נזקים שייגרמו מהשימוש בו.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗