Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF

קוד פתוח

DavidAUapache-2.02026-04-29

gguf
unsloth
heretic
uncensored
abliterated

גרסה מכווננת ונטולת חסימות של מודל קוד וראייה בקנה מידה של 27 מיליארד פרמטרים. היא עוקפת את מודל הבסיס במבחני שפה ומסרבת רק לארבע מתוך מאה פניות ישירות.

170 GBמשקל הקבצים
402,058הורדות בחודש
430לייקים

מה זה

הבסיס כאן הוא מודל שפותח במקור לעבודה עם שילוב של תמונה וטקסט, שעבר תהליך הסרת מגבלות ולאחר מכן כוונון נוסף בעזרת Unsloth על בסיס נתונים ייעודי. התוצאה מציגה ירידה דרסטית בשיעור הסירובים, מארבעים ותשעה סירובים במקור לארבעה בלבד במבחן המוצג, תוך שמירה על מרחק סטטיסטי נמוך מאוד ממודל המקור. לפי המדידות הפנימיות, המודל אפילו מעלה מעט את הדיוק במבחני ידע כמו arc-c ו־boolq בהשוואה לגרסת המקור במצב הוראות.

הייחוד במאגר הזה הוא דחיסה בשיטת imatrix כפולה שמשלבת שני מאגרי נתונים שונים כדי למזער פגיעה באיכות התשובות. הנתונים מראים שרמות דחיסה בינוניות כמו Q4_K_M שומרות על התאמה של 94.51% לבחירת המילים של מודל המקור המלא, כך שמי שמחפש מודל חופשי לתכנות מקבל כאן כמעט את מלוא היכולת של המשקל המקורי בקבצים קטנים בהרבה.

מתאים ל

פיתוח כלי קוד מקומיים
הוא כולל כימות ייעודי למשימות קוד ומספק ביצועים גבוהים במבחני swe-bench ללא תלות ברשת.
אוטומציה ללא חסימות תוכן
עם קצב סירובים של 4 מתוך 100 הוא יענה על שאלות אבטחה וסריקה שמודלים מצונזרים דוחים מיד.
ניתוח מסמכים חזותיים
הוא תומך בצירוף רכיב ראייה ומאפשר לחלץ מידע מתמונות ודיאגרמות ישירות לתוך הקוד.

איפה זה נופל

היוצר מציין בעצמו שהביצועים שלו כבר נעקפו בהפרש ניכר על ידי גרסה חדשה יותר בשם 711. מעבר לכך, במצב חשיבה המודל שורף טוקנים רבים לצורך תהליך הניתוח, דבר שמוריד את הציונים שלו במבחנים בהשוואה למצב הוראות רגיל ומעמיס על החומרה. התמיכה המובנית בשפות היא באנגלית ובסינית בלבד, כך שלא כדאי לבנות עליו לעיבוד הוראות מורכבות בעברית בלי לבדוק לעומק אם הוא לא מתחיל להזות או לערבב תחביר.

שאלות
נפוצות

האם גרסת Q4 מספיק טובה לעבודה שוטפת?

הנתונים מראים שרמת Q4_K_M מגיעה לדיוק של 94.51% בהשוואה למודל המלא, עם סטיית חשיבה נמוכה מאוד של 0.0147. זה הופך אותה לבחירה המאוזנת ביותר עבור רוב המפתחים שרוצים ביצועים קרובים למקור בלי לפוצץ את הזיכרון.

למה המודל לא מנתח לי תמונות אחרי ההורדה?

המודל מוגדר כמודל ראייה, אבל קובץ ה־GGUF לבדו מטפל רק בטקסט. כדי להפעיל יכולת תמונה אתם חייבים להוריד קובץ mmproj תואם ולשמור אותו באותה התיקייה שבה שמור המודל הראשי.

איך מריצים

כדי להריץ את המודל צריך כלי תומך GGUF כמו llama.cpp ולשים לב שאם רוצים יכולות תמונה, חובה להוריד בנפרד קובץ mmproj מתאים ולהניח אותו באותה התיקייה. למרות שהמשקל הכולל של כלל הגרסאות בעמוד מגיע ל־170 ג'יגה בייט, אתם מורידים רק קובץ כימות יחיד. גרסאות Q4 דורשות סביב 16 עד 20 ג'יגה בייט זיכרון גרפי עבור הקשר בסיסי, בעוד שגרסאות כבדות כמו Q8 תופסות כמעט את מלוא הזיכרון של כרטיסים מקצועיים.

אם אתם מתכננים לנצל את מלוא חלון ההקשר המקורי שמגיע עד 262,144 טוקנים, תוספת הזיכרון עבור הטבלאות תהיה משמעותית מאוד. במצב כזה, אלא אם יש לכם תחנת עבודה ייעודית עם כמה כרטיסים חזקים, החזקת המודל בחומרה מקומית תחנוק את המערכת ויהיה זול ופשוט יותר להסתמך על תשתית ענן.

ollama run hf.co/DavidAU/Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q8_029.9 GB Q6_K22.4 GB Q5_K_M19.5 GB Q5_K_S19.0 GB Q4_K_M16.9 GB IQ4_NL16.1 GB Q4_K_S15.9 GB IQ4_XS15.4 GB IQ3_M12.9 GB IQ2_M10.5 GB F321.8 GB BF16931.1 MB F16927.6 MB

הקבצים

16 קבצים במאגר, 170 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא apache-2.0, שמתיר שימוש חופשי לחלוטין כולל מטרות מסחריות, שינוי הקוד והפצה. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים שתפיצו. עם זאת, מכיוון שמדובר במודל שעבר כוונון והסרת מגבלות על בסיס מודל קודם, כדאי לוודא שאין תנאי שימוש נוספים שהגיעו ממאגרי המידע ששימשו לאימון.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗