Negentropy-claude-opus-4.7-9B-GGUF

מה זה

בבסיס יושב Qwen3.5-9B שעבר כוונון בעזרת Unsloth על בסיס טכניקה שהיוצרים מכנים Trace Inversion. הרעיון הוא לקחת תקצירי חשיבה של מודלים מסחריים כמו קלוד אופוס, להרחיב אותם בחזרה לתהליך מחשבה מלא, ולהזין את הצעדים האלה כחומר אימון למודל קטן יותר. הוא פולט את תהליך ההסקה בתוך תגיות ייעודיות, כך שרואים את כל שלבי העבודה לפני התשובה הסופית.

ההבדל העיקרי מול מודלים אחרים באותו סדר גודל הוא המיקוד באיכות צעדי הביניים ולא רק בפלט הגולמי. למרות שהמשימה המוצהרת כוללת תמונה וטקסט, עיקר הדגש כאן הוא פירוק לוגי, פתרון בעיות קוד ומעקב אחרי אילוצים מורכבים לאורך שלבים מרובים.

מתאים ל

• מחקר על שרשראות חשיבה

  מאפשר לבדוק שיטות שחזור היגיון פנימי של מודלים גדולים בסביבה מקומית מבוקרת.

• יצירת דאטה להסקה

  יכול לשמש כמורה שמייצר נתוני אימון מפורטים עבור מודלים זעירים של פחות מארבעה מיליארד פרמטרים.

• פתרון בעיות קוד מקומי

  מבצע ניתוח צעד אחר צעד של לוגיקה תכנותית בלי להוציא קבצים רגישים אל מחוץ לרשת.

איפה זה נופל

הכרטיס מזהיר במפורש מפני הזיות לוגיות. המודל יכול לייצר שרשרת חשיבה שנראית מנומקת, מסודרת ומובנית למופת, אבל המסקנה העובדתית בסופה שגויה לחלוטין. בנוסף, קצב ייצור הטוקנים נמוך מגרסאות קטנות יותר כמו גרסת ה־4B, ועברית אינה מופיעה ברשימת השפות הנתמכות שכוללת רק אנגלית, סינית, קוריאנית, יפנית ורוסית.

איך מריצים

קובצי ה־GGUF מאפשרים להריץ אותו דרך ספריות כמו llama.cpp על מעבדים גרפיים שולחניים כמו סדרות RTX 3090, 4090 או 5090. עבור עבודה נוחה בכימות של ארבעה ביטים תצטרכו לפחות 8 עד 12 גיגה בייט של זיכרון גרפי, תלוי ברמת הכימות ובאורך ההקשר.

אם יש לכם כרטיס מתאים וצורך בפרטיות מוחלטת או במחקר מקומי, ההרצה משתלמת ועובדת היטב. אם המטרה היא מענה מהיר במיוחד למשתמשי קצה בנפח תנועה גבוה, כדאי לשקול קריאה ל־API של מודל חיצוני במקום להחזיק שרת ייעודי.

ollama run hf.co/Jackrong/Negentropy-claude-opus-4.7-9B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

15 קבצים במאגר, 76.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Negentropy-claude-opus-4.7-9B-BF16.gguf17.9 GB
• Negentropy-claude-opus-4.7-9B-Q8_0.gguf9.5 GB
• Negentropy-claude-opus-4.7-9B-Q6_K.gguf7.4 GB
• Negentropy-claude-opus-4.7-9B-Q5_K_M.gguf6.5 GB
• Negentropy-claude-opus-4.7-9B-Q5_K_S.gguf6.3 GB
• Negentropy-claude-opus-4.7-9B-Q4_K_M.gguf5.6 GB
• Negentropy-claude-opus-4.7-9B-Q4_K_S.gguf5.4 GB
• Negentropy-claude-opus-4.7-9B-IQ4_XS.gguf5.2 GB
• Negentropy-claude-opus-4.7-9B-Q3_K_L.gguf4.9 GB
• Negentropy-claude-opus-4.7-9B-Q3_K_M.gguf4.6 GB
• Negentropy-claude-opus-4.7-9B-Q3_K_S.gguf4.3 GB
• Negentropy-claude-opus-4.7-9B-Q2_K.gguf3.8 GB
• mmproj.gguf921.7 MB
• README.md8.9 KB
• .gitattributes2.5 KB

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמאפשר שימוש חופשי, שינוי קוד ושילוב במוצרים מסחריים ללא תשלום תמלוגים. התנאי המרכזי הוא שמירה על הודעות זכויות היוצרים והרישיון המקורי בקוד או בתוכנה שאתם מפיצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗