GPT
הוספת כלי
H

Huihui-Qwen3.5-2B-abliterated

קוד פתוח

huihui-aiapache-2.02026-03-03

  • transformers
  • safetensors
  • qwen3_5
  • image-text-to-text
  • abliterated

גרסה נטולת סינונים של Qwen3.5 הקטן, שפותחה כדי לענות על שאלות בלי לסרב. מיועדת למי שחייב מודל מולטימודלי שלא נבהל מבקשות רגישות.

  • 2.3Bפרמטרים
  • 262,144טוקנים בהקשר
  • 4.3 GBמשקל הקבצים
  • 2,149הורדות בחודש

מה זה

מדובר במודל image-text-to-text בגודל 2.3 מיליארד פרמטרים, שעבר תהליך abliteration להסרת מנגנוני הסירוב המובנים. המפתח לקח את Qwen3.5-2B ונטרל את שכבות הבטיחות בלי להשתמש בספריית TransformerLens, במימוש שהוגדר כבדיקת היתכנות בסיסית. הוא מקבל גם תמונה וגם טקסט, ומחזיר טקסט ישירות בלי המחסומים הרגילים של מודלים תאגידיים.

ההבדל העיקרי מול מודלים סטנדרטיים בגודל הזה הוא הגישה לתוכן. אין כאן מדידות ביצועים מסודרות בכרטיס המודל, אלא התמקדות בביטול הסירובים. עם חלון הקשר של 262,144 טוקנים, הוא יכול תיאורטית לקבל מסמכים ארוכים או תמונות עם הרבה הקשר, אבל התנהגות המשקלים עברה שינוי ידני שמכוון כולו להתעלמות מהגבלות תוכן.

מתאים ל

  • ניתוח תמונות ללא צנזורה

    מענה ישיר ומדויק על שאלות שקשורות לתמונות, בלי שמנגנון בטיחות יסרב בטעות לפענח את התוכן.

  • מחקרי בטיחות והסרת סירובים

    בדיקת ההשפעה של abliteration על התנהגות מודלים קטנים בסביבת בדיקות מבוקרת ומקומית.

  • עיבוד מקומי במחשב אישי

    הרצה מקומית מלאה ללא תלות ברשת, על חומרה חלשה יחסית וזיכרון וידאו מוגבל.

איפה זה נופל

היוצר עצמו מזהיר שמדובר במימוש בוסרי וניסיוני, שלא עבר אופטימיזציית בטיחות כלשהי. אין במודל פילטרים, ולכן הוא עלול לפלוט תוכן פוגעני, שגוי או רגיש, והכרטיס מדגיש בפירוש שאינו מתאים ליישומי פרודקשן ציבוריים או למשתמשים צעירים. בנוסף, מודל של 2.3 מיליארד פרמטרים נוטה להזיות כבדות בהסברים מורכבים, והסרת הסירובים עלולה לפגוע עוד יותר בדיוק התשובות.

שאלות
נפוצות

האם המודל מתאים לשימוש באפליקציה ציבורית עם משתמשי קצה?

לא. הכרטיס מציין במפורש שהמודל מיועד למחקר ולסביבות מבוקרות, ואין בו פילטרים להגנה מפני פליטת תוכן בעייתי. אם תפתחו אותו לקהל הרחב תצטרכו לבנות שכבת בקרה ידנית כדי לא להסתכן בהפצת תוכן לא הולם.

איך אפשר להריץ אותו הכי מהר במחשב?

הדרך הפשוטה ביותר היא להשתמש בגרסה העדכנית של Ollama ולהריץ את huihui_ai/qwen3.5-abliterated:2b. זה חוסך הגדרות ידניות של סביבות עבודה ומוריד את המשקלים המתאימים אוטומטית.

איך מריצים

אתם מריצים אותו מקומית דרך Ollama גרסה 0.17.5 ומעלה בפקודה פשוטה, או טוענים את 4.3 הגיגה-בייט של הקבצים ישירות דרך ספריית transformers בפייתון. בגלל הגודל הקומפקטי שלו, כרטיס מסך ביתי בסיסי עם 6 עד 8 גיגה-בייט זיכרון יספיק בלי בעיה, ואפשר להריץ אותו אפילו על מעבד סביר בלי לזחול.

אם אתם צריכים תשובות חכמות באמת על לוגיקה מסובכת או קוד מורכב, עדיף לפנות ל־API של מודל ענק. הרצה עצמית של המודל הזה מתאימה רק כשאתם חייבים שליטה מוחלטת במידע או בתוכן שהמודל פולט בלי חסימות רשת.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="huihui-ai/Huihui-Qwen3.5-2B-abliterated")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 4.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

רישיון apache-2.0 מאפשר שימוש מסחרי מלא, שינוי של הקוד והמשקלים והפצה חופשית. אתם יכולים לשלב אותו במוצר שלכם, בתנאי שתשמרו על הודעת זכויות היוצרים והרישיון המקורי, בלי שהיוצר ייקח אחריות על נזקים שייגרמו מהשימוש.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗