GPT
H

Huihui-Qwen3-VL-8B-Instruct-abliterated

קוד פתוח

huihui-aiapache-2.02025-10-16

  • transformers
  • safetensors
  • qwen3_vl
  • image-text-to-text
  • abliterated

גרסה נטולת סירובים למודל התמונה והטקסט של Qwen בגודל 8.8 מיליארד פרמטרים. היא תנתח תמונות שגרסאות רגילות חוסמות מיד.

  • 8.8Bפרמטרים
  • 262,144טוקנים בהקשר
  • 16.3 GBמשקל הקבצים
  • 45,567הורדות בחודש

מה זה

מדובר בעיבוד של המודל המקורי באמצעות טכניקת abliteration, שמטרתה לנטרל את מנגנוני הסירוב המובנים של המודל בלי לאמן אותו מחדש מאפס. העיבוד נעשה על שכבת הטקסט בלבד ולא נגע ברכיב הראייה, כך שהיכולת לזהות פרטים חזותיים נשענת על מה שהגיע מהמקור. המטרה כאן ממוקדת מאוד, לוודא שהוא לא יזרוק לכם שגיאות בנוסח של חוסר יכולת לתאר או לנתח את התמונה שהעליתם.

המודל מגיע עם חלון הקשר עצום של 262,144 טוקנים, שמאפשר להזין כמות גדולה של טקסט לצד תמונות. בניגוד לגרסה הרגילה שמסננת נושאים רגישים או שנויים במחלוקת, הגרסה הזו פשוט עונה על מה שביקשתם בלי לחנך אתכם או לעצור באמצע.

מתאים ל

  • ניתוח תמונות רפואיות או גרפיות

    מאפשר לעבד תמונות שמודלים רגילים מסרבים לגעת בהן עקב מדיניות סינון נוקשה.

  • מחקר על עקיפת מגבלות

    משמש כר פורה לבדיקת התנהגות מודלים שהוסרו מהם מנגנוני הבטיחות הטקסטואליים.

  • סיווג תמונות בסביבה סגורה

    מתאים לצינורות עיבוד פנימיים שבהם נדרש ניתוח ישיר של תמונות ללא התערבות וצנזורה.

איפה זה נופל

ההסרה של מנגנוני הסירוב משאירה את המודל ללא רשת ביטחון כלל. היוצרים מציינים במפורש שהסינון הופחת משמעותית, ושהוא עלול לפלוט תוכן פוגעני, רגיש או לא חוקי. בנוסף, בגלל שרכיב התמונה עצמו לא עבר את השינוי אלא רק רכיב הטקסט, חוסר העקביות בין מה שהמודל רואה לבין מה שהוא מפענח יכול לייצר הזיות. המפתחים עצמם מזהירים מפני שימוש ישיר במוצרים מסחריים שפונים לקהל הרחב וממליצים להגביל אותו למחקר, בדיקות וסביבות מנוטרות בלבד.

שאלות
נפוצות

האם המודל שונה באיכות הראייה שלו מהגרסה המקורית של Qwen?

לא. היוצרים מציינים שהשינוי בוצע אך ורק בחלק של הטקסט ולא במודול הראייה. יכולת פענוח התמונה זהה למקור, ורק מנגנון הסירוב להגיב נוטרל.

האם כדאי לשלב אותו באפליקציה ציבורית עם משתמשי קצה?

לא מומלץ בכלל. המודל עלול לייצר תוכן פוגעני או רגיש ללא אזהרה, והיוצרים ממליצים להשתמש בו בסביבות מבוקרות או לצורכי מחקר בלבד.

איך מריצים

המשקל הכולל של הקבצים עומד על 16.3 גיגה בייט, כך שצריך כרטיס מסך עם לפחות 20 עד 24 גיגה זיכרון כדי להריץ אותו בצורה נקייה בלי קוונטיזציה. מי שמעדיף התקנה מהירה יכול להשתמש ישירות בגרסת ה־Ollama של היוצרים דרך הפקודה ollama run huihui_ai/qwen3-vl-abliterated:8b-instruct, אך חובה לעדכן לגרסה 0.12.7 ומעלה.

אם יש לכם כרטיס ביתי פשוט יותר או שאין לכם שרת ייעודי זמין, החזקה של מודל כזה באוויר עולה לא מעט בחומרה וחשמל. עם זאת, בגלל שהסיבה העיקרית לבחור בו היא העדר סינון, ספקי API מסחריים רגילים לא יתנו לכם את אותן התשובות, כך שהרצה עצמית היא כמעט האפשרות היחידה כאן.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="huihui-ai/Huihui-Qwen3-VL-8B-Instruct-abliterated")
print(pipe("שלום"))

הרישיון

המודל מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי חופשי, שינוי והפצה של הקוד והמשקלים. התנאי העיקרי הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי. עם זאת, היוצרים מבהירים שהאחריות המשפטית לתוכן שנוצר מוטלת כולה על מי שמריץ אותו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗