Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF

קוד פתוח

huihui-aiapache-2.02026-05-19

transformers
gguf
abliterated
uncensored
GGUF

גרסה לא מצונזרת של מודל ראייה ושפה בגודל 35 מיליארד פרמטרים בפורמט מכווץ. היא מיועדת למי שרוצה מענה ישיר לבקשות בלי חסימות סירוב שקיימות במודל המקורי.

202 GBמשקל הקבצים
64,229הורדות בחודש
44לייקים

מה זה

מדובר בהמרה של המודל Qwen3.6-35B-A3B לפורמט GGUF, שעברה תהליך הסרת סירובים בשיטה שנקראת abliteration. המטרה של התהליך היא לנטרל את מנגנוני הבטיחות שגורמים למודל לסרב לבקשות של משתמשים, והיוצרים מעידים בעצמם שמדובר במימוש בסיסי מאוד לצורך הוכחת היתכנות ללא שימוש בספריית TransformerLens. המשימה המוגדרת שלו היא עיבוד תמונה וטקסט יחד ליצירת פלט טקסטואלי.

בניגוד למודלים רגילים מהסדרה הזו שכוללים מנגנוני סינון הדוקים, כאן המודל אמור לענות בלי להטיף מוסר או לחסום נושאים רגישים. הכרטיס לא כולל מבחני ביצועים או תוצאות מדידה מספריות, כך שאין מדד מדויק לגבי הפגיעה האפשרית באיכות התשובות או ביכולות הראייה בעקבות שינוי המשקלים.

מתאים ל

מחקר על הסרת סירובים
בדיקת ההשפעה של abliteration על משקלי מודל ראייה ושפה ללא שימוש בספריות ייעודיות.
ניתוח תמונות ללא צנזורה
עיבוד תכנים ויזואליים וטקסטואליים שנעצרים בדרך כלל על ידי מסנני בטיחות סטנדרטיים.
בדיקות אוטומטיות פנימיות
הרצה מקומית במערכת מבודדת כדי לבחון תגובות מודל במצבי קיצון ללא התערבות מנגנוני מוסר.

איפה זה נופל

היוצרים מדגישים שההטמעה הזו היא ניסיונית וגסה, ומזהירים מפורשות לא להשתמש בה בסביבות ייצור או מול קהל רחב. בגלל נטרול מנגנוני הסירוב, המודל עלול לייצר פלטים שנויים במחלוקת, לא הולמים או מסוכנים מבחינה משפטית, ואין לו שום ערבויות בטיחות בסיסיות. בנוסף, בהיעדר מדדי איכות בכרטיס, תצטרכו לבדוק בעצמכם אם הסרת המחסומים לא פגעה ביכולת ניתוח התמונה או בהיגיון הכללי שלו.

שאלות
נפוצות

האם המודל מתאים לשימוש באפליקציה לקהל הרחב?

ממש לא, והיוצרים מתריעים על כך ישירות בעמוד המודל. ביטול מנגנוני הסירוב אומר שהוא יכול לפלוט תוכן פוגעני או רגיש, ולכן הוא מומלץ למחקר ולסביבות מבוקרות בלבד שבהן יש ניטור אנושי צמוד.

איך מריצים אותו על המחשב?

הוא מיועד להרצה באמצעות llama.cpp לאחר קימפול המקור עם תמיכת CUDA. פקודת ההרצה שהיוצרים סיפקו מיועדת לקובץ בפורמט Q4_K ודורשת חומרה חזקה המסוגלת להחזיק הקשר גדול ומודל בגודל 35 מיליארד פרמטרים.

איך מריצים

את המודל מריצים דרך הגרסה העדכנית של llama.cpp, כפי שמוסבר בהוראות הבנייה והקוד של הכרטיס. פקודת ההרצה המוצגת משתמשת בקובץ מכווץ בפורמט Q4_K, מנצלת האצת CUDA מלאה עם הטענת כל השכבות לזיכרון הגרפי, ומגדירה חלון הקשר של 262,144 טוקנים לצד מנגנון האצה מסוג draft-mtp.

סך כל הקבצים שפורסמו מגיע ל־202 ג'יגה בייט, כך שתצטרכו שטח אחסון נרחב וחומרה חזקה עם כרטיסי מסך בעלי זיכרון VRAM משמעותי כדי להחזיק את המודל וההקשר. אם אתם צריכים רק שאילתות בודדות ולא רוצים להחזיק שרת ייעודי כבד ומורכב, עדיף להשתמש בשירותי ענן קיימים.

ollama run hf.co/huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF:Q6_K

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F1671.1 GB Q8_037.8 GB Q6_K29.2 GB Q5_K25.3 GB Q4_K21.7 GB Q3_K17.2 GB Q2_K13.2 GB F16899.3 MB

הקבצים

10 קבצים במאגר, 202 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מפורסם ברישיון apache-2.0, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית. עם זאת, היוצרים מבהירים שהם מסירים כל אחריות לתוצאות השימוש, כך שכל חשיפה משפטית במוצר שלכם נופלת עליכם בלבד.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗