GPT
H

Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated

קוד פתוח

huihui-aiapache-2.02026-03-14

  • transformers
  • safetensors
  • qwen3_5
  • image-text-to-text
  • abliterated

גרסה לא מצונזרת של מודל ראייה וטקסט עם 28 מיליארד פרמטרים. היא עברה הסרת סירובים מכנית כדי לענות על שאלות שמודלים רגילים חוסמים.

  • 28Bפרמטרים
  • 262,144טוקנים בהקשר
  • 51.8 GBמשקל הקבצים
  • 387הורדות בחודש

מה זה

הבסיס כאן הוא שילוב של Qwen3.5 שעבר זיקוק מול קלוד, ואז עבר תהליך אבליטרציה. מדובר במודל שמקבל תמונות וטקסט ומחזיר טקסט, עם חלון הקשר של 262,144 טוקנים. הרעיון הוא לקבל יכולות הסקה חזקות בלי מעצורי הבטיחות הרגילים שמובנים במודלים של חברות מסחריות.

בניגוד לגרסאות רשמיות שמסרבות לבקשות גבוליות, כאן התערבו ישירות במשקולות כדי לנטרל את מנגנון הסירוב בלי להשתמש בכלים כמו TransformerLens. היוצרים עצמם מגדירים את העבודה כמימוש גולמי וכבדיקת היתכנות, כך שאין כאן אופטימיזציה עמוקה או בדיקות ביצועים מקיפות. המודל שומר על ארכיטקטורת Qwen3_5ForConditionalGeneration וזמין ישירות דרך ספריית transformers או להרצה מקומית.

מתאים ל

  • מחקר על עקיפת בטיחות

    בדיקת ההשפעה של הסרת וקטורי סירוב על יכולות ההסקה של מודל פתוח.

  • ניתוח תמונות רפואיות או משפטיות

    עיבוד תמונות וטקסטים שמודלים מסחריים רגילים מסרבים לנתח בגלל תוכן רגיש.

  • הרצה מקומית באולמה

    בדיקת יכולות הסקה וראייה על מחשב פיתוח חזק באמצעות תמיכה ישירה בגרסה מותאמת.

איפה זה נופל

היוצרים מזהירים במפורש שמדובר במימוש בוסרי שנועד למחקר ולניסויים ולא לייצור. הסרת הסירובים נעשתה בצורה אגרסיבית יחסית, מה שעלול לפגוע ביציבות ההסקה, לגרום להזיות או לייצר תוכן פוגעני ולא חוקי בלי שום סינון מקדים. אין שום ערובת בטיחות, וכל פלט דורש בדיקה ידנית אם הוא מיועד למישהו מעבר למפתח עצמו.

שאלות
נפוצות

האם המודל יציב מספיק למוצר אמיתי מול לקוחות?

לא. המפתחים מגדירים אותו כבדיקת היתכנות גולמית וממליצים מפורשות לא לשים אותו באפליקציות מסחריות פתוחות. הסרת הסירובים עלולה להוביל לפלטים פוגעניים או שגויים ללא בקרה.

האם חייבים 64 גיגה בייט זיכרון גרפי כדי לבדוק אותו?

עבור קובצי המקור בפורמט bfloat16 כן, זה הגודל הנדרש. עם זאת, אפשר להשתמש בגרסת האולמה שהמפתחים קישרו אליה, שדורשת פחות משאבים בזכות קוונטיזציה.

איך מריצים

המשקלים המקוריים שוקלים 51.8 גיגה בייט בפורמט bfloat16 ומחולקים ל־19 קבצים. כדי להריץ את המודל המלא בלי קוונטיזציה תצטרכו כרטיס מקצועי או שני כרטיסי מסך עם לפחות 64 גיגה בייט זיכרון גרפי, במיוחד אם רוצים לנצל הקשר ארוך או לעבד תמונות כבדות.

מי שרוצה לבדוק אותו בלי שרת ייעודי יכול למשוך גרסה מותאמת ישירות דרך ollama באמצעות הפקודה שהמפתחים פרסמו. אם אתם צריכים רק תשובות נקודתיות ולא מחזיקים חומרה כבדה במשרד, עדיף לפנות ל־API מסחרי רגיל, אלא אם הפרויקט שלכם דורש במפורש מודל בלי סירובים שחייב לרוץ מקומית.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="huihui-ai/Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated")
print(pipe("שלום"))

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי של הקוד והפצה מחדש, בתנאי ששומרים על הודעות זכויות היוצרים ומצרפים את נוסח הרישיון. עם זאת, היוצרים מדגישים שהאחריות המשפטית והאתית על התוכן חלה כולה על מי שמריץ את המודל.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗