Qwen3.5-9B-ultra-uncensored-heretic-GGUF

קוד פתוח

llmfan46apache-2.02026-03-30

transformers
gguf
qwen3_5
heretic
uncensored

גרסת GGUF שעברה הסרת סינון אגרסיבית למודל משולב תמונה וטקסט. המטרה היא לקבל תשובות ישירות בלי הטפות מוסר או סירובים שמובנים במקור.

63.8 GBמשקל הקבצים
8,038הורדות בחודש
51לייקים

מה זה

מדובר בעיבוד של המודל Qwen3.5-9B שבוצע באמצעות כלי בשם Heretic בשיטת ARA, שמטרתה לנטרל את מנגנוני הסירוב בשכבות תשומת הלב 15 עד 31. הכותב מציג צניחה מסיבית בשיעור הסירובים, מ־86 מתוך 100 במקור ל־4 בלבד בגרסה הזו. בשונה מניסיונות דומים שמחרבים את יכולת ההסקה בדרך, המרחק מהמקור מזערי עם סטיית KL של 0.0241 בלבד.

במבחני ידע והיגיון פיזיקלי, הפגיעה כמעט בלתי מורגשת. במבחן PIQA המודל שמר על דיוק מנורמל של 0.8009 לעומת 0.8014 במקור, ובמבחן MMLU התוצאה הכללית עומדת על 0.7841 לעומת 0.7861. המשמעות היא שהידע בתחומים כמו מדעי המחשב, משפטים והיסטוריה נשאר שלם, בלי שהסרת החסימות תהפוך את הפלטים לגבב מילים חסר היגיון.

מתאים ל

מחקר על מנגנוני בטיחות
בדיקת התנהגות מודלים והשוואה מול המקור שסירב ב־86 מתוך 100 מקרים.
עיבוד תמונה וטקסט מקומי
ניתוח מסמכים ותמונות בעזרת קובץ ה־mmproj בלי תלות בשרתי ענן חיצוניים.
כתיבה יצירתית ללא סירובים
יצירת תוכן חופשי שאינו נבלם על ידי שכבות מוסר תאגידיות שמובנות במקור.

איפה זה נופל

ההסרה המכוונת של מנגנוני הבטיחות הופכת אותו לבעייתי מאוד בסביבות שפונות למשתמשי קצה ללא פיקוח. הוא לא מתנגד, לא מתחמק ולא מזהיר, מה שמחייב אתכם לבנות שכבת בדיקות משלכם אם המוצר מיועד לקהל הרחב. מבחינת יכולות ראייה, הוא לא יעבוד כמודל מולטימודלי אם תשכחו לשלב את קובץ ה־mmproj לצד קובץ המשקלים הראשי.

שאלות
נפוצות

חייבים להוריד את קובץ ה־mmproj כדי שהמודל יעבוד?

לטקסט בלבד אפשר להריץ רק את קובץ ה־GGUF של המודל. קובץ ה־mmproj נחוץ אך ורק אם רוצים להזין תמונות יחד עם הטקסט.

איזה קובץ כימות כדאי להוריד מהרשימה?

היוצר מסמן את Q8_0 כגרסה המומלצת ביותר לשמירה על איכות ללא איבוד מידע מורגש. אם חסר זיכרון, גרסאות Q4_K_M או Q5_K_M יתנו פשרה טובה יותר בין משקל לביצועים.

איך מריצים

הקבצים מיועדים להרצה מקומית בכלים כמו llama.cpp, LM Studio או Ollama. המאגר מכיל מגוון רחב של כימותים, החל מ־BF16 מלא, דרך Q8_0 שמוגדר כמומלץ, ועד רמות דחיסה אגרסיביות כמו Q3_K_M ו־Q4_K_M שמיועדות לחומרה עם זיכרון וידאו מוגבל. כדי להשתמש ביכולות הראייה ועיבוד התמונה, חובה להוריד ולהטעין במקביל גם את קובץ המקרן הייעודי, Qwen3.5-9B-mmproj-BF16.gguf.

אם יש לכם כרטיס מסך מודרני עם מספיק זיכרון להחזיק מודל 9B באחד מכימותי ה־Q, ההרצה המקומית פשוטה ונותנת פרטיות מלאה. אם אתם צריכים רק שאילתות טקסט בודדות ומחזיקים לפטופ חלש, אין טעם להסתבך עם עשרות גיגהבייט של קבצים מקומיים.

ollama run hf.co/llmfan46/Qwen3.5-9B-ultra-uncensored-heretic-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1617.9 GB Q8_09.5 GB Q6_K7.4 GB Q5_K_M6.4 GB Q5_K_S6.3 GB Q4_K_M5.5 GB Q4_K_S5.3 GB Q3_K_L4.7 GB Q3_K_M4.5 GB BF16921.7 MB

הקבצים

12 קבצים במאגר, 63.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא apache-2.0. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי והפצה של המשקלים והקוד, ללא תמלוגים, ובתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗