Huihui-Qwen3-8B-abliterated-v2

מה זה

הבסיס כאן הוא מודל שמונה מיליארד פרמטרים שעבר תהליך הסרת סירובים, מה שמכונה abliteration. המטרה היתה לנטרל את נטיית המודל לסרב לבקשות, בלי להשתמש בספריית TransformerLens אלא בשיטה מהירה וישירה יותר שפותחה בפרויקט חיצוני. היוצרים עצמם מגדירים את זה כהוכחת היתכנות גולמית למדי, כך שלא מדובר באימון מלא אלא בשינוי משקולות ממוקד.

בגרסה הזו הם שינו את שכבה 0 כדי לפתור באג שגרם לפלט משובש של ג׳יבריש בגרסה הקודמת. מעבר לזה, המודל תומך בהקשר של עד 40,960 טוקנים, מה שמאפשר להזין לו מסמכים ארוכים למדי בלי לאבד את ההקשר.

מתאים ל

• מחקר על עקיפת הגנות

  מאפשר לבחון איך הסרת סירובים משפיעה על התנהגות מודלי שפה בגודל בינוני.

• כתיבה יצירתית ללא סינון

  עונה על כל הנחיה עלילתית או תסריטאית בלי לחסום נושאים מורכבים או אפלים.

• ניתוח טקסטים רגישים

  מעבד ומסכם תכנים שמערכות מסחריות רגילות היו דוחות ומסרבות לקרוא.

איפה זה נופל

זה ניסוי גולמי ולא מודל שעבר אופטימיזציה מקיפה, והיוצרים מזהירים במפורש לא להעלות אותו לפרודקשן או לחשוף אותו למשתמשי קצה. בגלל שכל מנגנוני הבטיחות והסינון הוסרו, הוא עלול לייצר תוכן פוגעני, רגיש או לא חוקי בלי שום אזהרה, ואין עליו שום אחריות מצד המפתחים. בנוסף, שינויים כירורגיים במשקולות עלולים לפגוע באיכות התשובות או בהיגיון הכללי, כך שחובה לבדוק היטב את איכות הפלט לפני שמסתמכים עליו.

איך מריצים

כדי להריץ אותו מקומית צריך להוריד 15.3 גיגה־בייט של קובצי bfloat16 דרך ספריית transformers, מה שדורש כרטיס מסך עם לפחות 16 גיגה־בייט זיכרון כדי לעבוד בצורה יציבה. אם אתם מעדיפים עבודה פשוטה בלי קוד, יש גרסה ייעודית ב־Ollama תחת huihui_ai/qwen3-abliterated:8b-v2 שמאפשרת להריץ אותו בפקודה אחת.

מי שמשתמש ב־Ollama מקבל גם מתג מובנה להפעלת או כיבוי מצב חשיבה באמצעות הפקודות set think ו־set nothink. שווה להרים שרת עצמאי רק אם אתם חייבים פרטיות מלאה או מעבדים טקסטים שמודלים מסחריים יסרבו לגעת בהם.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/Huihui-Qwen3-8B-abliterated-v2")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 15.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00003-of-00004.safetensors5.0 GB
• model-00002-of-00004.safetensors4.9 GB
• model-00001-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors1.6 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json33.3 KB
• README.md11.6 KB
• tokenizer_config.json5.6 KB
• chat_template.jinja4.2 KB
• .gitattributes1.6 KB
• config.json759 B
• added_tokens.json735 B
• special_tokens_map.json644 B
• generation_config.json227 B

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הקוד והמשקולות והפצה חופשית, כל עוד אתם שומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון. עם זאת, היוצרים מבהירים שכל האחריות המשפטית והאתית על התוכן שהמודל פולט חלה עליכם בלבד.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗