gemma-4-31B-it-Claude-Opus-Distill-v2-GGUF

קוד פתוח

TeichAIapache-2.02026-04-12

transformers
gguf
text-generation-inference
unsloth
gemma4

גרסה מכווננת של גוגל גמה בנפח של שלושים ואחד מיליארד פרמטרים, שאומנה על עקבות חשיבה של קלוד אופוס. המטרה היא להביא היגיון מורכב לקוד פתוח.

197 GBמשקל הקבצים
1,736הורדות בחודש
54לייקים

מה זה

הפרויקט הזה לוקח את מודל הבסיס של גוגל ומבצע עליו כוונון עדין באמצעות ערכות נתונים שמקורן בשיחות ודפוסי חשיבה של קלוד אופוס. הרעיון הוא לחקות את תהליך פתרון הבעיות הרב שלבי של המודל הסגור, בעיקר במשימות תכנות, מדע וניתוח נתונים, שבהן המודל מפרק את הבעיה לפני שהוא עונה.

בגודל של שלושים ואחד מיליארד פרמטרים, המודל משלב יכולות מולטימודליות של עיבוד טקסט, תמונות ווידאו, תוך שימוש בתקציבי טוקנים גמישים לתמונות כדי לאזן בין פירוט למהירות. הכרטיס עדיין מציין שמבחני הביצועים הרשמיים יגיעו בקרוב, כך שאין כרגע ציונים מאומתים שמראים כמה הזיקוק הזה באמת עוקף את מודל הבסיס של גוגל.

מתאים ל

פיתוח וארכיטקטורת תוכנה
מתאים לפתרון באגים מורכבים ותכנון קוד בזכות אימון על שרשראות חשיבה מעמיקות.
ניתוח תמונות ומסמכים
תמיכה בתקציב טוקנים ויזואלי גמיש מאפשרת ניתוח פרטים קטנים או סריקת מסמכים.
מחקר ועיבוד טקסט מדעי
התמקדות בהיגיון רב שלבי מיועדת לפירוק שאלות מחקר ארוכות וניסוח היפותזות.

איפה זה נופל

הבעיה הבולטת ביותר כרגע היא חוסר מוחלט במדדי ביצועים. היוצרים ציינו שהבנצ'מרקים יפורסמו בהמשך, מה שאומר שאין הוכחה מספרית שהזיקוק מאופוס אכן שיפר את התוצאות ולא קלקל תכונות בסיס. בנוסף, המודל הזה תומך בתמונות ובסרטונים של עד שישים שניות בלבד, אך בניגוד לגרסאות הקטנות יותר של הסדרה, הוא אינו תומך בעיבוד אודיו. אם אתם צריכים מערכת קולית או תמלול, המודל הזה פשוט יכשיל אתכם.

אותה משפחה

gemma-4-31B-it-Claude-Opus יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

gemma-4-31B-it-Claude-Opus-Distill-GGUF1,519 gemma-4-31B-it-Claude-Opus-Distill89

שאלות
נפוצות

האם המודל תומך בעיבוד קובצי קול?

לא. לפי התיעוד, היכולת לעבד אודיו קיימת רק בדגמי הבסיס הקטנים יותר, בעוד שהמודל הזה תומך בטקסט, תמונות ווידאו בלבד.

איך שולטים במצב החשיבה המעמיק?

הפעלת החשיבה נעשית על ידי הוספת הטוקן הייעודי בתחילת הודעת המערכת, והמודל פולט את תהליך המחשבה בתוך תגיות ייעודיות לפני התשובה הסופית.

איך מריצים

המשקל הכולל של הקבצים במאגר עומד על מאה תשעים ושבעה ג׳יגה בייט על פני שלושה עשר קבצים, שזה נפח עצום שמחייב שטח אחסון מהיר וחומרה חזקה מאוד להרצה מקומית. כדי להריץ מודל במשקל שלושים ואחד מיליארד פרמטרים בצורה סבירה, תצטרכו כרטיס מסך ברמת שרתים או פתרון מבוזר של כמה מאיצים גרפיים בעלי זיכרון וידאו גבוה.

אם אתם לא מחזיקים שרת ייעודי כזה בבית או במשרד, הרצה מקומית תהיה יקרה וכבדה מדי לעומת שליחת קריאות לשירות ענן או שימוש בגרסאות מכווצות יותר בפורמטים מותאמים.

ollama run hf.co/TeichAI/gemma-4-31B-it-Claude-Opus-Distill-v2-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1661.4 GB Q8_032.6 GB Q6_K25.2 GB Q5_K_M21.8 GB Q4_K_M18.7 GB IQ4_NL17.8 GB Q3_K_M15.3 GB Q3_K_S13.8 GB F322.3 GB BF161.2 GB F161.2 GB

הקבצים

13 קבצים במאגר, 197 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר תחת רישיון אפאצ'י שתיים אפס, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית ללא תשלום תמלוגים. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בכל הפצה או שילוב במוצר.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗