GPT
H

Huihui-Qwen3.6-35B-A3B-abliterated

קוד פתוח

huihui-aiapache-2.02026-04-18

  • transformers
  • safetensors
  • qwen3_5_moe
  • image-text-to-text
  • abliterated

גרסה נטולת סירובים של מודל מולטימודלי עם ארכיטקטורת תערובת מומחים. מתאים למי שנמאס לו מהטפות מוסר ומחפש מודל שמגיב לכל בקשה כולל ניתוח תמונות.

  • 36Bפרמטרים
  • 262,144טוקנים בהקשר
  • 67.0 GBמשקל הקבצים
  • 6,770הורדות בחודש

מה זה

מדובר בעיבוד של המודל Qwen3.6-35B-A3B שבוצע באמצעות טכניקת אבלטרציה, שמטרתה לנטרל את מנגנוני הסירוב המובנים. המודל שייך לקטגוריית תמונה וטקסט לטקסט, ומבוסס על ארכיטקטורת תערובת מומחים עם סך של כמעט 36 מיליארד פרמטרים. בנוסף הוא מציע חלון הקשר עצום של 262,144 טוקנים, מה שמאפשר להזין לו מסמכים שלמים או היסטוריית שיחה ארוכה מאוד בלי לאבד את ההקשר.

היוצרים מגדירים את השחרור הזה כניסוי היתכנות גולמי שנועד להסיר סירובים בלי להסתמך על ספריות ייעודיות כמו TransformerLens. אין בכרטיס המודל מבחני ביצועים רשמיים, כך שאי אפשר לדעת בדיוק כמה מהיכולות הלוגיות המקוריות נשמרו בתהליך המחיקה. מה שברור הוא שההתנהגות שלו שונה לחלוטין מגרסת המקור, הוא פשוט לא יעצור אתכם כשתבקשו נושאים שמוגדרים כרגישים במודלים מסחריים רגילים.

מתאים ל

  • מחקר על מנגנוני סירוב

    בדיקת ההשפעה של אבלטרציה על יכולות המודל ולמידת התנהגות מודלים פתוחים ללא מסננים.

  • ניתוח מסמכים ותמונות רגישים

    עיבוד תכנים בעייתיים שמודלים מסחריים רגילים מסרבים לגעת בהם, תוך ניצול חלון הקשר ענק.

  • בדיקות חוסן פנימיות

    סימולציה של תרחישי קצה ויצירת תוכן ללא הגבלות בסביבת פיתוח סגורה ומנוטרת היטב.

איפה זה נופל

היוצרים מזהירים במפורש שמדובר במימוש גולמי וניסיוני. המודל עלול לייצר פלטים פוגעניים, שנויים במחלוקת או בלתי הולמים, ואין בו שום שכבת הגנה מובנית. הכרטיס מדגיש שאין להשתמש בו ישירות מול לקוחות קצה או במוצרים מסחריים ציבוריים בלי בקרה ידנית מתמדת. בנוסף, לא פורסמו נתונים על פגיעה אפשרית באיכות התשובות או ביכולת ניתוח התמונה בעקבות הסרת הסירובים.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה כבוט שירות לקוחות באתר מסחרי?

ממש לא מומלץ. היוצרים עצמם מזהירים מפני שימוש במוצרים ציבוריים בגלל היעדר סינון תוכן, מה שעלול לחשוף את העסק לתביעות ולפגיעה במוניטין. כדי לעבוד איתו במוצר כזה, תצטרכו לבנות שכבת סינון ובקרה נפרדת משלכם.

איך אפשר להריץ אותו בלי להוריד את כל 67 הגיגה בייט של transformers?

הדרך הפשוטה ביותר היא להשתמש בתוכנת ollama בגרסה העדכנית שלה. מריצים את הפקודה עם החבילה הייעודית שהיוצרים פרסמו, ומקבלים גרסה מותאמת שדורשת הרבה פחות התעסקות עם הגדרות זיכרון.

איך מריצים

המשקל הכולל של הקבצים עומד על 67 גיגה בייט בפורמט של transformers, כך שכדי להריץ אותו ישירות צריך כרטיס מסך רציני עם מספיק זיכרון וידאו, או מערך של שני כרטיסים. אם אין לכם שרת ייעודי כזה בבית או בענן, מומלץ להשתמש בגרסת האולמה שהיוצרים הכינו תחת השם huihui_ai/qwen3.6-abliterated:35b, שמאפשרת הרצה מקומית פשוטה יותר עם קוונטיזציה.

אם אתם שוקלים להרים שרת בעצמכם רק בשבילו, קחו בחשבון את עלויות התשתית של חומרה כבדה כזו לעומת פנייה לשירותי ענן חיצוניים. עבור רוב המפתחים שרוצים רק לבדוק אותו, הרצה דרך אולמה על מחשב חזק היא הדרך ההגיונית היחידה להתחיל.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated")
print(pipe("שלום"))

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי של הקוד והמשקולות והפצה מחדש, בתנאי ששומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון. המשמעות היא שמותר להטמיע אותו במוצר שלכם, אבל האחריות המשפטית המלאה על מה שהוא פולט חלה עליכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗