gemma-4-26B-A4B-it-Claude-Opus-Distill-v2-GGUF

קוד פתוח

TeichAIapache-2.02026-04-10

transformers
gguf
text-generation-inference
unsloth
gemma4

התאמה אישית של גמא מבית גוגל שעברה אימון על שרשראות חשיבה של קלוד אופוס. המטרה היא להביא פירוק בעיות מורכב וכתיבת קוד לכלי שרץ אצלכם מקומית.

166 GBמשקל הקבצים
1,921הורדות בחודש
43לייקים

מה זה

הבסיס כאן הוא מודל פתוח שאימנו אותו מחדש בעזרת אנלות' על דאטה של קלוד 4.6 אופוס ברמת חשיבה גבוהה. המפתחים רצו להעתיק את סגנון ההסבר והניתוח המובנה של אנתרופיק לתוך משקלים חופשיים, עם דגש על כתיבת תוכנה ומחקר. גרסה שתיים מנסה לפתור בעיות ספציפיות של לולאות אינסופיות ותשובות שנקטעות באמצע, תופעות שהופיעו בגרסה הראשונה.

המפרסמים מציינים שהמודל נבדק בהצלחה בתוך סביבות פיתוח כמו קורסור, קליין וקודקס לבניית אפליקציות וסקריפטים שלמים. עם זאת, אין בכרטיס שום תוצאות של מבחני ביצועים רשמיים, והם רק ציינו שמדדים יגיעו בהמשך. קשה לדעת כמה החשיבה הזו באמת מתקרבת לאופוס המקורי בלי לבדוק אותו ישירות על משימות שלכם.

מתאים ל

עוזר פיתוח מקומי
עובד בתוך עורכי קוד כמו קורסור וקליין לצורך כתיבת פונקציות ופתרון באגים.
ניתוח בעיות מורכבות
אימון על שרשראות חשיבה ממושכות עוזר לחלק שאלות קשות לשלבים לוגיים.
מחקר וסיכום נתונים
מתאים לחיבור מידע מכמה מקורות תוך שמירה על ניסוח שיטתי של שלבי העבודה.

איפה זה נופל

הכרטיס מודה בפירוש שבגרסאות קודמות היו תופעות של כניסה ללולאות וקטיעה של טקסט באמצע הפלט. מעבר לזה, אין שום נתוני בדיקה או השוואה מספרית שמוכיחים עליונות על דגמים אחרים. דוגמאות הקוד בעמוד מתייחסות למשפחת מודלים שלמה ומציגות שימוש בתמונות, אודיו ווידאו, אך לא ברור מהכרטיס אילו יכולות מולטימדיה נתמכות בדיוק בגרסה המותאמת הזו.

אותה משפחה

gemma-4-26B-A4B-it-Claude-Opus יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

gemma-4-26B-A4B-it-Claude-Opus-Distill-GGUF2,239

שאלות
נפוצות

איך מפעילים את מנגנון החשיבה של המודל?

החשיבה מופעלת בעזרת הוספת טוקן מיוחד של חשיבה בתחילת הודעת המערכת, או על ידי הגדרת הפרמטר המתאים בקוד של טרנספורמרס. כשהאפשרות פעילה, המודל מחזיר את שלבי המחשבה הפנימיים בתוך תגיות ייעודיות לפני שהוא פולט את התשובה הסופית.

האם אפשר להשתמש במחשבות הקודמות בשיחה מתמשכת?

לא. ההוראות קובעות במפורש שבשיחה מרובת שלבים צריך למחוק את תוכן החשיבה מההיסטוריה ולהשאיר רק את התשובה הסופית של העוזר לפני ששולחים את השאלה הבאה.

איך מריצים

המאגר כולל 12 קבצים במשקל כולל של 166 גיגה בייט. למרות השם שמכיל סיומת שמזכירה קבצים מכווצים, הקוד לדוגמה מתבסס על ספריית טרנספורמרס הרגילה בפייתון ודורש כרטיסי מסך חזקים מאוד כדי להעלות משקל כזה לזיכרון.

אם אין לכם שרת ייעודי עם כמה כרטיסים מקצועיים או לפחות עשרות גיגות של זיכרון גרפי, אין טעם לנסות להרים את זה במחשב האישי. במצב כזה עדיף לשלם ישירות לפי שימוש בנקודת קצה מסחרית.

ollama run hf.co/TeichAI/gemma-4-26B-A4B-it-Claude-Opus-Distill-v2-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1650.5 GB Q8_026.9 GB Q6_K22.6 GB Q5_K_M19.1 GB Q4_K_M16.8 GB IQ4_NL14.6 GB Q3_K_M13.3 GB Q3_K_S12.2 GB BF161.2 GB F161.2 GB

הקבצים

12 קבצים במאגר, 166 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא אפאצ'י שתיים אפס. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להריץ אותו בשרתים פרטיים ולשלב אותו במוצר בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗