Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF

קוד פתוח

DavidAUapache-2.02026-03-09

gguf
fine tune
creative
creative writing
fiction writing

גרסת 9B שעברה הסרת סינון ואימון עדין על דאטהסטים של קלוד כדי לחשוב חופשי. היא לא תסרב לבקשות, שומרת על חשיבה חזקה ומסוגלת גם לעבד תמונות מקומית.

86.1 GBמשקל הקבצים
11,246הורדות בחודש
139לייקים

מה זה

הבסיס כאן הוא מודל 9B של קוון, שעבר כוונון בעזרת אנפלאת על ארבעה מאגרי נתונים של קלוד, לצד הסרת סירובים כמעט מוחלטת. היוצר השתמש בכיול מיוחד לקוונטיזציה של שני מאגרים במקביל כדי לשמר דיוק, ועדכן את תבנית הג'ינג'ה כדי לעצור חשיבת יתר שמאפיינת את הסדרה המקורית. המודל מתמודד עם טקסט ותמונות, אך דורש קובץ השלכה ייעודי כדי לפענח קלט ויזואלי.

במבחני ביצועים מקוריים מול גרסת הבסיס, ההבדלים ברורים. הוא רושם שיפור במבחני חשיבה, למשל 0.425 מול 0.417 ב־arc ו־0.791 לעומת 0.623 ב־boolq, אך גרסת האינסטראקט המקבילה עוקפת אותו ברוב המדדים. הנתון המשמעותי ביותר בכרטיס הוא צניחה בסירובים מ־100 ל־6 בלבד מתוך מאה בדיקות, עם מרחק סטטיסטי נמוך של 0.0793 מהמודל המקורי, מה שמראה שההתנהגות נשמרה יציבה למרות הסרת החסימות.

מתאים ל

משחקי תפקידים ללא חסימות
הוא לא זורק שגיאות סירוב על תכנים אפלים או אלימים, כל עוד מנחים אותו להשתמש בשפה המתאימה.
ניתוח תמונות באופן פרטי
הוא מעבד תמונות מקומית בעזרת קובץ ההקרנה הנוסף, בלי לשלוח שום מידע לשרתים חיצוניים.
כתיבה יצירתית שדורשת חופש
האימון על נתוני קלוד בשילוב הסרת הסירובים מונע הטפות מוסר ומאפשר חשיבה פתוחה יותר.

איפה זה נופל

המודל אמנם מוגדר כלא מצונזר ולא יסרב לכם, אבל הכרטיס מודה בפירוש שהוא נותר מאופק ויבש כברירת מחדל. כדי להוציא ממנו תוכן בוטה, קללות או סלנג צריך לדחוף אותו ידנית בהנחיות ולפרט בדיוק באילו מילים להשתמש. בנוסף, יכולות הווידאו של מודל הבסיס כלל לא נבדקו כאן, והשפות המוצהרות הן אנגלית וסינית בלבד, כך שעברית לא מקבלת שום הבטחה לאיכות.

שאלות
נפוצות

למה המודל לא מייצר קללות או תוכן גרפי למרות שהוא מוגדר כלא מצונזר?

הוא מאומן לא לסרב, אך הגדרות ברירת המחדל שלו עדיין עדינות ומתונות. הכרטיס מציין שצריך להנחות אותו ישירות בפרומפט ולהגדיר לו באילו מילים או סלנג להשתמש כדי לקבל תוצאה ישירה.

האם אפשר לשלוח אליו תמונות מיד אחרי ההורדה?

לא ישירות מקובץ המודל בלבד. חובה להוריד גם קובץ mmproj מאותו המאגר ולהניח אותו באותה התיקייה כדי שמנגנון הראייה יפעל.

איך ביצועי העברית של המודל הזה?

הכרטיס מגדיר תמיכה באנגלית ובסינית בלבד. מודל הבסיס מכיר שפות רבות אך הגרסה הזו לא אומנה במיוחד על עברית, ולכן צריך לבדוק אותה היטב לפני שמסתמכים עליה.

איך מריצים

בגלל שמדובר במודל 9B שמופץ בפורמט מקוונטט, אפשר להריץ אותו על מחשב מקומי עם כרטיס מסך ביתי סביר. הכרטיס ממליץ על קוונט מסוג q4ks לכל הפחות בגרסאות רגילות, או IQ3S בגרסאות מבוססות מטריצת חשיבות כדי לחסוך מקום בלי לאבד שפיות. אם אתם מתכננים להזין תמונות, חובה להוריד קובץ mmproj תואם ולשים אותו באותה התיקייה.

תוכנות כמו קובולד או ממשקי צ'אט אחרים יצטרכו הגדרת החלקה של 1.5 כדי שהפלט יזרום חלק, או העלאת עונש חזרתיות לאזור 1.15. אם אתם מחפשים שירות ענן יציב לחברה עם זמני תגובה מובטחים ולא מתעקשים על ביטול הסינון, עדיף להשתמש ב־API מסחרי רגיל במקום להתעסק בקבצי תצורה מקומיים.

ollama run hf.co/DavidAU/Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1617.9 GB Q8_010.5 GB Q6_K8.6 GB Q5_K_M7.7 GB Q5_K_S7.5 GB Q4_K_M6.8 GB Q4_K_S6.5 GB IQ4_NL6.5 GB IQ4_XS6.3 GB IQ3_M5.6 GB IQ2_M4.8 GB F321.8 GB BF16921.7 MB F16918.2 MB

הקבצים

18 קבצים במאגר, 86.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא אפאצ'י 2.0, שמאפשר שימוש חופשי לחלוטין לצרכים פרטיים ומסחריים, כולל שינוי הקוד והפצה של מוצרים מבוססים עליו. התנאי היחיד הוא שמירה על הודעות זכויות היוצרים וצירוף עותק של הרישיון המקורי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗