Huihui-Qwen3.8-27B-abliterated-GGUF

קוד פתוח

huihui-aiapache-2.02026-08-16

transformers
gguf
abliterated
uncensored
huihui

גרסה נטולת סינונים של מודל 27B לטקסט ותמונה בפורמט GGUF. מי שמחפש אותו רוצה מודל רב-מודאלי שמסרב פחות לבקשות משתמש.

591 GBמשקל הקבצים
2,305,654הורדות בחודש
631לייקים

מה זה

הבסיס כאן הוא מודל שפה ותמונה של 27 מיליארד פרמטרים שעבר התערבות ישירה במשקלים כדי לנטרל מנגנוני סירוב. היוצרים ביצעו את השינוי רק בחלק מהשכבות, בין שכבה 18 או 23 לשכבה 51, ולא נגעו ב־15 השכבות הראשונות כדי לשמור על היכולות המקוריות של המודל. רכיבי הראייה והחיזוי המקבילי נותרו גם הם ללא שינוי.

ההבדל המרכזי מול קבצי GGUF רגילים נמצא בשיטת הכימות. כדי למנוע ירידה באיכות התשובות בעקבות נטרול הסינונים, המשקלים הרלוונטיים הומרו לדיוק גבוה יותר כמו Q8_0 או BF16 גם בתוך גרסאות קלות, ומסומנים באות L. המשמעות היא שקובץ ברמת דחיסה נמוכה עלול לשקול יותר מקובץ בדחיסה בינונית.

מתאים ל

מחקר על מנגנוני בטיחות
מאפשר לבחון איך הסרת סירובים בשכבות ספציפיות משפיעה על פלט המודל.
ניתוח תמונות ללא חסימות
שומר על מודול הראייה המקורי של 27B יחד עם מענה חופשי יותר להנחיות.
הרצה מקומית ב־Ollama
מתאים לבדיקות מהירות בסביבה סגורה בלי להסתמך על שירותי ענן חיצוניים.

איפה זה נופל

היוצרים מצהירים בגלוי שמדובר במימוש גולמי וכהוכחת היתכנות. המודל עלול לייצר תוכן פוגעני, רגיש או לא הולם, וחלק מהגרסאות עדיין פולטות אזהרות ויתור אחריות קצרות. הוא אינו כולל אופטימיזציית בטיחות, ולכן הכרטיס ממליץ מפורשות להימנע משימוש ישיר בו במוצרים מסחריים שפונים לקהל הרחב ללא ניטור ידני.

אותה משפחה

Huihui-Qwen3.8-27B-abliterated יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Huihui-Qwen3.8-27B-abliterated71,734

שאלות
נפוצות

למה קובץ Q2_K_L גדול יותר מקובץ Q3_K?

היוצרים המירו משקלים קריטיים בשכבות שעברו שינוי לרמת Q8_0 כדי לשמור על איכות הפלט. הכימות אינו אחיד לאורך כל המודל, מה שמגדיל את נפח הקובץ הסופי מעבר למקובל ברמות דחיסה אלו.

האם המודל יפסיק לסרב לחלוטין?

לא תמיד. מדובר במימוש גולמי שבוצע רק בחלק מהשכבות, והמפתחים מציינים שחלק מהגרסאות עדיין עשויות להחזיר אזהרות קצרות בתשובה.

האם יכולות ניתוח התמונה נפגעו בתהליך?

לפי כרטיס המודל, רכיב הראייה לא עבר שינוי כלל, כך שיכולות עיבוד התמונה נותרו זהות למודל המקורי שעליו הוא מבוסס.

איך מריצים

המודל רץ מקומית דרך llama.cpp או באמצעות משיכה ישירה ב־Ollama. כדי לטעון מודל של 27 מיליארד פרמטרים תצטרכו כרטיס מסך חזק עם מספיק זיכרון וידאו, במיוחד בהתחשב בכך שמשקלי ה־L כבדים יותר מהכימות הרגיל שלהם.

אם אתם צריכים תפוקה יציבה לייצור ללא חומרה מקומית כבדה, עדיף להשתמש ב־API מנוהל. הרצה עצמית כאן דורשת התעסקות עם קבצים ייעודיים וחלון הקשר שיכול להגיע עד 262,144 טוקנים.

ollama run hf.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

39 קבצים במאגר, 591 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא Apache 2.0. הוא מתיר שימוש מסחרי, שינוי של הקוד והפצה חופשית, בתנאי ששומרים על הודעות זכויות היוצרים והרישיון המקורי. עם זאת, יוצרי המודל מסירים כל אחריות לתוכן שייוצר ומטילים את מלוא האחריות החוקית על המשתמש.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗