Huihui-Qwen3-4B-Instruct-2507-abliterated

מה זה

מדובר בהתאמה למודל הבסיס של עליבאבא מסדרת Qwen3 בגודל 4 מיליארד פרמטרים, שפותחה במטרה לעקוף את מנגנוני הבטיחות הרגילים. התהליך, שמכונה abliteration, מנטרל את הווקטורים שמפעילים סירובים מובנים בתשובות של המודל, בלי להזדקק לכלים כבדים כמו TransformerLens.

התוצאה היא מודל גנרטיבי קטן יחסית עם חלון הקשר ענק של 262,144 טוקנים, שלא עוצר את עצמו כשהוא נתקל בטקסטים שנויים במחלוקת. היוצרים עצמם מגדירים אותו כהוכחת היתכנות גולמית שבוצעה בשיטה מהירה יותר, כך שאין כאן הבטחה לעידון סגנוני אלא רק להסרת החסימות.

מתאים ל

• מחקר אבטחת מידע

  בדיקת תרחישי תקיפה ובחינת עמידות של מנגנוני הגנה חיצוניים מול מודל שלא מסרב.

• ניתוח טקסטים רגישים

  עיבוד מסמכים משפטיים או תוכן בוטה שמודלים מסחריים רגילים חוסמים אוטומטית.

• יצירת תוכן נטול צנזורה

  כתיבה חופשית לסימולציות או תסריטים הדורשים דיאלוגים קשים בלי פילטרים תאגידיים.

איפה זה נופל

היוצרים מזהירים במפורש שמדובר בניסוי גולמי שלא עבר אופטימיזציית בטיחות, ולכן הוא נוטה לפלוט תוכן פוגעני, רגיש או לא חוקי. הסרת הסירובים עלולה גם לפגוע ביכולות ההיגיון הבסיסיות של המודל, מה שמוביל להזיות. אסור לחבר אותו ישירות למשתמשי קצה בלי שכבת סינון ובקרה ידנית הדוקה.

איך מריצים

המשקל המלא של הקבצים בפורמט bfloat16 מגיע ל־7.5 גיגה בייט, כך שכרטיס מסך ביתי ממוצע עם 8 עד 12 גיגה זיכרון מריץ אותו בלי בעיה דרך transformers. מי שמעדיף לחסוך מקום יכול להריץ גרסה מכווצת דרך Ollama באמצעות הפקודה המוכנה של היוצרים בגרסת q4_K_M.

אם אתם צריכים רק בדיקה מהירה של רעיון ולא אכפת לכם מצנזורה, עדיף להשתמש ב־API קיים של מודל גדול בהרבה. הריצה המקומית פה משתלמת רק כשחייבים פרטיות מלאה, או כשה-API החיצוני פוסל לכם פרומפטים על בסיס מדיניות תוכן.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 7.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors3.1 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json33.3 KB
• LICENSE11.3 KB
• README.md9.8 KB
• tokenizer_config.json5.6 KB
• chat_template.jinja4.1 KB
• config.json1.6 KB
• .gitattributes1.6 KB
• added_tokens.json735 B
• special_tokens_map.json644 B
• generation_config.json231 B

הרישיון

רישיון apache-2.0 מאפשר שימוש חופשי לחלוטין, כולל שינוי הקוד, הרצה מקומית ושילוב במוצרים מסחריים. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי אחריות משפטית מצד היוצרים לנזקים שייגרמו מהשימוש.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗