Gliese-Qwen3.5-9B-Abliterated-Caption

קוד פתוח

prithivMLmodsapache-2.02026-03-10

transformers
safetensors
gguf
qwen3_5
image-text-to-text

מודל תמונה לטקסט בגודל 9.4B שעבר הסרת מנגנוני סירוב. הוא מייצר תיאורי תמונה מפורטים וחופשיים מצנזורה כשמודלים מסחריים רגילים מסרבים לנתח את הסצנה.

9.4Bפרמטרים
262,144טוקנים בהקשר
97.2 GBמשקל הקבצים
12,332הורדות בחודש

מה זה

מדובר בהתאמה ממוקדת של Qwen3.5 סביב משימת image-text-to-text, שנבנתה על בסיס גרסה מנוטרלת סירובים של huihui-ai. המפתח השתמש בניתוח כיווני סירוב במרחב הלטנטי כדי לעקר את הנטייה המובנית של המודל לדחות בקשות, ואימן אותו במיוחד להפיק תיאורים עשירים, ארוכים ומדויקים של סצנות, עצמים ואנשים.

בגזרה הטכנית יש כאן חלון הקשר עצום של 262,144 טוקנים, מה שמאפשר להזין היסטוריה ארוכה מאוד של תמונות והנחיות בלי לחנוק את הזיכרון הלוגי. בניגוד למודלי בסיס שנוטים להחזיר משפט בודד או לפחד מתכנים מורכבים, הוא מתמקד בפירוט סמנטי כבד. אין בכרטיס טבלאות מבחנים השוואתיות עם ציונים מספריים, כך שההבדל המרכזי מול מודלים מקבילים הוא הסרת העכבות והמיקוד בכיתוב חופשי.

הוא תומך רשמית באנגלית ובסינית בלבד. מי שבונה על תיאור ישיר בעברית יצטרך לתרגם את הפלט או לבדוק בעצמו אם המודל מגיב לשפת היעד, כי היצרן לא ייעד אותו לשם.

מתאים ל

בניית מאגרי אימון לתמונות
יצירת כיתובים ארוכים ומפורטים עבור אימון מודלי דיפוזיה, ללא סירובים על סצנות חריגות.
תיוג אוטומטי מקומי
הרצה מקומית על שרת פרטי כדי לפענח תמונות רגישות בלי להוציא נתונים לענן חיצוני.
מחקר על התנהגות מודלים
בדיקת יכולות ראייה ממוחשבת במודלים מנוטרלי סירוב ללא שכבות צנזורה תאגידיות.

איפה זה נופל

הורדת מנגנוני הסירוב אומרת שהמודל פולט תיאורים מפורשים, בוטים או שנויים במחלוקת בלי לסנן כלום, ישירות ממה שהוא מזהה בתמונה. אין פה מעקה בטיחות, וכל האחריות המשפטית על התוכן נופלת עליכם. אסור להזין את הפלט שלו ישירות למשתמשי קצה בלי שכבת סינון עצמאית שלכם.

מעבר לזה, עם 9.4 מיליארד פרמטרים יש גבול ליכולת ההסקה המרחבית שלו בהשוואה למודלי ענק. הוא עלול לטעות בפרטים קטנים בסצנות עמוסות מאוד, והוא לא מתאים כמנוע שיחה כללי אלא בעיקר ככלי ייעודי לתיוג וכיתוב תמונות.

שאלות
נפוצות

האם המודל מבין ומייצר עברית?

הכרטיס מציין תמיכה רק באנגלית ובסינית. אפשר לפנות אליו בעברית כי שפת הבסיס קולטת מילים, אבל סביר שהתוצאות יהיו חלשות, מגושמות או מקוטעות. עדיף להריץ את התיאור באנגלית ולתרגם אותו בנפרד.

למה הקבצים שוקלים 97 גיגה בייט אם המודל הוא רק 9B?

המאגר בהאגינג פייס מכיל כמה גרסאות במקביל, כולל קובצי משקלים שונים וכמה סוגי קוונטיזציה של GGUF. אתם לא מורידים הכל. בוחרים קובץ אחד שמתאים לחומרה שלכם, כמו גרסת Q8_0 שדורשת פחות מעשרה גיגה בייט, ואת קובץ ה־mmproj המתאים.

איך מריצים

המשקל המלא של המאגר בפורמט המקורי שוקל 97.2 גיגה בייט בגלל פיצול הקבצים והגרסאות. בפועל, אין שום סיבה להוריד את כל המאגר הגולמי לשרת מקומי. יש קובצי GGUF מוכנים להרצה מקומית, החל מגרסת Q8_0 ששוקלת 9.53 גיגה בייט ומצריכה מודול מולטימודלי נפרד של 624 מגה בייט, ועד גרסאות BF16 ו־F16 סביב 17.9 גיגה בייט.

כרטיס מסך בודד עם 16 עד 24 גיגה בייט של VRAM יריץ את גרסת ה־Q8 בלי בעיה דרך llama.cpp או ספריות דומות, יחד עם transformers בגרסה 5.3.0. אם אתם צריכים רק לתייג מדי פעם תמונות בודדות ולא מנהלים פייפליין מקומי שדורש פרטיות מוחלטת או חופש מצנזורה, עדיף להשתמש ב־API חיצוני של מודל ענן ולחסוך תחזוקת שרת ייעודי.

ollama run hf.co/prithivMLmods/Gliese-Qwen3.5-9B-Abliterated-Caption:Q8_0

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

safetensors18.8 GB F3235.8 GB BF1617.9 GB F1617.9 GB Q8_09.5 GB F321.8 GB BF16921.7 MB F16921.7 MB Q8_0624.2 MB

הקבצים

21 קבצים במאגר, 97.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקלים, להפיץ אותו מחדש ולשלב אותו במוצרים סגורים. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, לצד ציון השינויים שביצעתם.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗