GPT
הוספת כלי
Q

Qwen3.6-35B-A3B-uncensored-heretic

קוד פתוח

llmfan46apache-2.02026-04-20

  • transformers
  • safetensors
  • qwen3_5_moe
  • image-text-to-text
  • heretic

גרסה שעברה הסרת מגבלות למודל תכנות וראייה מבוסס מומחים. היא מיועדת למי שרוצה מענה ישיר לבקשות בלי הרצאות והטפות מוסר.

  • 35Bפרמטרים
  • 262,144טוקנים בהקשר
  • 65.4 GBמשקל הקבצים
  • 1,569הורדות בחודש

מה זה

מדובר בעיבוד של הקהילה למודל Qwen3.6-35B-A3B שנוצר בעזרת כלי בשם Heretic בשיטת אבלציה אורתוגונלית. הרעיון פשוט: ניטרול וקטורים בשכבות הקשב וההזנה קדימה כדי למחוק את מנגנון הסירוב של המודל המקורי. לפי המדידות, שיעור הסירובים צנח מ־83 מתוך 100 במקור ל־10 מתוך 100 כאן, שזה חיתוך של 88 אחוז בהתנגדויות.

היתרון הוא שרמת הביצועים כמעט לא זזה. מרחק KL עומד על 0.0015 בלבד, ובמבחן MMLU המודל שמר על דיוק של 83.22% לעומת 83.71% במקור על פני 7,021 שאלות. הארכיטקטורה מבוססת תערובת מומחים שבה פועלים 3 מיליארד פרמטרים מתוך 35 מיליארד בכל שלב, עם שילוב של קלט תמונה וטקסט, חלון הקשר עצום של 262,144 טוקנים ויכולות סוכנים ותכנות.

מתאים ל

  • סוכן תכנות אוטונומי

    הארכיטקטורה מותאמת למשימות קוד ברמת מאגר שלם ומספקת חלון עבודה גדול בלי סירובים על קטעי בדיקה רגישים.

  • ניתוח מסמכים ותמונות

    המודל כולל מפענח ראייה מובנה ומסוגל לקבל תמונות לצד טקסט בלי שרתי עזר נפרדים.

  • מחקר אבטחה ובדיקות חדירה

    הירידה בסירובים מאפשרת לתחקר חולשות אבטחה וקוד זדוני בלי שהמודל יטיף מוסר או ייחסם.

איפה זה נופל

ההסרה של מנגנוני הסירוב לא נקייה במאה אחוז. במבחני הבנצ'מרק רואים ירידות בנקודות רגישות: בבחינת moral scenarios הציון נפל מ־0.6765 במקור ל־0.6267, וגם בתחומים כמו למידת מכונה יש ירידה מסוימת. בנוסף, המודל עדיין סירב ל־10 מתוך 100 בקשות, כך שהוא לא פתוח לחלוטין. לפני שמשלבים אותו במוצר שמייצר קוד או טקסט, צריך לבדוק שהוא לא פולט הזיות בתחומים מקצועיים שעברו פגיעה קלה.

אותה משפחה

Qwen3.6-35B-A3B-uncensored-heretic יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3.6-35B-A3B-uncensored-heretic-GGUF16,668

שאלות
נפוצות

האם המודל יסכים לענות על כל דבר עכשיו?

לא. לפי הבדיקות בכרטיס המודל הוא עדיין דחה 10 מתוך 100 בקשות. זה שיפור משמעותי לעומת 83 סירובים במקור, אבל הוא לא פתוח לגמרי.

האם אפשר להריץ אותו ישירות על מעבד ומחשב רגיל?

המשקלים שפורסמו כאן שוקלים 65.4 גיגה בייט ומיועדים לכרטיסי מסך עם זיכרון מתאים. בשביל מחשב אישי רגיל עדיף להוריד את גרסאות ה־GGUF המכומתות שמופיעות בקישור בכרטיס.

האם יכולות התכנות שלו נפגעו בגלל השינוי?

הדיוק הכולל ב־MMLU נשמר כמעט לחלוטין ועומד על 83.22% לעומת 83.71%, עם מרחק KL נמוך מאוד של 0.0015. יחד עם זאת, יש תתי נושאים שספגו ירידות קלות ולכן כדאי לבדוק את המשימות הספציפיות שלכם.

איך מריצים

המשקלים המקוריים שוקלים 65.4 גיגה בייט בפורמט Transformers, מה שאומר שצריך חומרה עם זיכרון וידאו משמעותי כדי לטעון אותם כמו שהם. למזלנו הארכיטקטורה מפעילה רק 3 מיליארד פרמטרים בכל רגע, אז החישוב עצמו מהיר ביחס למודלים צפופים בגודל הזה. המודל תואם לספריות כמו vLLM, SGLang ו־KTransformers.

אם אין לכם שרת ייעודי עם מספיק זיכרון וידאו, יש למודל גרסאות מכומתות בפורמט GGUF בעמוד נפרד של היוצר. אם המטרה היא להריץ מדי פעם בדיקות קוד בלי להתעסק עם חומרה וקירור, עדיף להשתמש ב־API מוכן, אבל אם אתם צריכים ספציפית את הגרסה נטולת הצנזורה, תצטרכו להרים אותה עצמאית.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="llmfan46/Qwen3.6-35B-A3B-uncensored-heretic")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 65.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי קוד והפצה של המשקלים בתוך מוצרים. התנאים העיקריים הם מתן קרדיט ושמירה על הודעת זכויות היוצרים המקורית, בלי אחריות משפטית של המפרסמים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗