GPT
הוספת כלי
H

Huihui-Qwen3.8-27B-abliterated

קוד פתוח

huihui-aiapache-2.02026-08-16

  • transformers
  • safetensors
  • qwen3_5
  • image-text-to-text
  • abliterated

גרסה נטולת סינונים של מודל ראייה וטקסט בנפח 28 מיליארד פרמטרים. היא נועדה למי שצריך תשובות ישירות ומלאות בלי מנגנוני סירוב אוטומטיים של מערכות מסחריות.

  • 28Bפרמטרים
  • 262,144טוקנים בהקשר
  • 51.8 GBמשקל הקבצים
  • 71,734הורדות בחודש

מה זה

מדובר במודל שמקבל תמונות וטקסט ומחזיר טקסט, המבוסס על שכתוב פנימי להסרת סירובים. המפתחים השתמשו בטכניקת אבלטרציה על שכבות 18 עד 51 במקום אימון מחדש, במטרה לנטרל את מנגנוני הבטיחות הרגילים בלי למחוק את היכולות הבסיסיות של מודל המקור. רכיבי הראייה ומנגנון החיזוי לא עברו שינוי, כך שהיכולת לנתח קבצי תמונה נשמרת לצד עיבוד טקסט.

ההבדל מול מודלים רגילים בגודל הזה הוא הגישה לחופש פעולה מלא. המערכת עונה על בקשות שבדרך כלל נחסמות מיד, עם חלון הקשר עצום של 262,144 טוקנים שמתאים לקריאת מסמכים ארוכים או ספריות קוד גדולות. מכיוון שמדובר בהתערבות כירורגית פנימית בשכבות הרשת, אין כאן הבטחה לשמירה מלאה על יציבות המקור, אלא ניסוי שמיועד לתת מענה כשכל שאר החלופות מסרבות לענות.

מתאים ל

  • מחקר אבטחת מידע

    ניתוח הנחיות ללא מנגנוני חסימה שקיימים במודלים מסחריים מוגבלים.

  • עיבוד תמונות וטקסט פנימי

    בדיקת מסמכים ואיורים בסביבה מקומית שלא תלויה בשרתי צד שלישי.

  • סביבות בדיקה מפוקחות

    בחינת תגובות קיצון במערכות סגורות שדורשות תשובות ללא סירוב אוטומטי.

איפה זה נופל

המפתחים מצהירים שמדובר במימוש גולמי וניסיוני, כך שדיוק המודל עלול להיפגע בעקבות הסרת שכבות הסירוב. הוא מייצר תוכן רגיש, שנוי במחלוקת ולא מבוקר, ולכן אינו מתאים למוצרים שפונים לקהל הרחב או לילדים. בנוסף, חובה להוסיף מנגנון ניטור ובקרה ידני משלכם, מכיוון שאין כאן שום שכבת הגנה שמגיעה מראש מהיוצרים.

אותה משפחה

Huihui-Qwen3.8-27B-abliterated יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Huihui-Qwen3.8-27B-abliterated-GGUF2,305,654

שאלות
נפוצות

האם המודל שומר על יכולות הראייה של מודל המקור?

כן. כרטיס המודל מציין במפורש שרכיבי הראייה לא עברו שינוי בתהליך. השינויים התמקדו בשכבות הטקסט הפנימיות בלבד לצורך הסרת הסירובים.

האם אפשר להריץ אותו על מחשב נייד רגיל?

לא עם הקבצים המקוריים ששוקלים מעל חמישים גיגה בייט. בשביל להריץ אותו מקומית על מחשב אישי תצטרכו להשתמש בגרסאות מכווצות דרך אולמה ולוודא שיש לכם מספיק זיכרון עבודה.

איך מריצים

במשקל כולל של 51.8 גיגה בייט, המודל הזה דורש כרטיסי מסך חזקים מאוד כדי לעלות במלואו, בדרך כלל לפחות 64 גיגה בייט זיכרון גרפי עבור הרצה בסיסית של המשקלים הגולמיים דרך ספריית טרנספורמרס. אם אין לכם שרת ייעודי כזה בבית או במשרד, אפשר למשוך גרסאות מקומבצות ומותאמות דרך אולמה בפקודה פשוטה.

לפרויקטים קטנים שרק בודקים היתכנות, כדאי לשקול קריאה לשירות ענן חיצוני שמארח את המודל או מקביליו. הקמה ותחזוקה של חומרה מקומית למודל של 28 מיליארד פרמטרים יקרה ומסורבלת, ומשתלמת בעיקר אם המידע רגיש ואינו יכול לצאת מהרשת הפנימית.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="huihui-ai/Huihui-Qwen3.8-27B-abliterated")
print(pipe("שלום"))

הקבצים

32 קבצים במאגר, 51.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא אפאצ'י שתיים אפס, רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית. אתם יכולים לשלב אותו במוצרים פנימיים או חיצוניים בלי לשלם תמלוגים, אך עליכם לכלול את הודעת זכויות היוצרים המקורית ולשאת באחריות מלאה על התוצרים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗