gemma-4-12B-coder-fable5-composer2.5-v1-GGUF
קוד פתוחyuxinlu1apache-2.02026-06-10
גרסת קוד ממוקדת של גמא 4 שחושבת לפני שהיא עונה. היא נותנת סיוע פיתוח מקומי בתוך חומרה צנועה יחסית וללא תלות ברשת.
- 38.0 GBמשקל הקבצים
- 521,043הורדות בחודש
- 2,881לייקים
מה זה
המודל הזה הוא כוונון עדין של הבסיס מבית גוגל, שמיועד לפתרון בעיות תכנות ואלגוריתמיקה. תהליך האימון התבסס על זיקוק של תהליכי חשיבה משני מודלים, תוך סינון קפדני: רק פתרונות שעברו בהצלחה בדיקות קוד אמיתיות נכנסו למאגר. המסלול המרכזי מגיע מפתרונות מאומתים, והמקרים הקשים יותר כוסו מחדש על ידי מודל גיבוי שייצר נתיבי חשיבה מתוקנים.
התוצאה מציגה את שלבי החשיבה הגלויים שלה, כולל התייחסות למקרי קצה ולסיבוכיות, לפני שהיא פולטת את הפתרון הסופי. חלון ההקשר תומך בעד 256 אלף טוקנים לאחר תיקון באג הגדרות במקור, כך שאפשר להזין לו קבצים ארוכים למדי בניתוח מקומי.
מתאים ל
- פתרון בעיות אלגוריתמיות
הוא מציג חשיבה פנימית ומוודא מקרי קצה לפני כתיבת קוד פייתון מלא.
- עוזר פיתוח מקומי ואופליין
רץ במחשב אישי עם מעט זיכרון ושומר על פרטיות הקוד בלי לשלוח מידע החוצה.
- בדיקת פונקציות מורכבות
מנתח מבנה של פונקציות ובוחן התנהגות מול מקרי קיצון בצורה מנומקת.
איפה זה נופל
האימון התמקד בצורה כמעט בלעדית בקוד פייתון ובבעיות אלגוריתמיות, ולכן הוא לא מתאים למשימות פיתוח רחבות בשפות אחרות או לידע כללי. מעבר לכך, המודל אומן ללא שכבות בטיחות ומסרב להרבה פחות בקשות מהרגיל, מה שמחייב הוספת בדיקות צד לקוח לפני שמשלבים אותו במערכת ציבורית. כמו כן, הוא מוטה לשפה האנגלית ואין לו את יכולות הסוכן והאיטרציה שנבדקו בגרסאות ההמשך.
אותה משפחה
gemma-4-12B-coder-fable5-composer2.5 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
כמה זיכרן וידאו צריך בשביל להריץ אותו בפועל?
הקובץ הקטן ביותר דורש כ־4.5 גיגה בייט של זיכרון ומסוגל לרוץ על כרטיסים צנועים או על מחשבי מק. הגרסה המומלצת שוקלת כמעט שבעה גיגה בייט, והיא תדרוש לפחות שמונה גיגה בייט לחלון הקשר קצר, או מעל 16 גיגה בייט אם פותחים עשרות אלפי טוקנים.
למה עדיף להשתמש בגרסה הזו ולא במודל הבסיס של גוגל?
מודל הבסיס נוטה לפעמים לוותר מהר על משימות תכנות קשות. הכוונון הספציפי הזה אומן ישירות על שרשראות חשיבה שהובילו לקוד שנבדק בהרצה, כך שהוא מתאמץ לפתור את הבעיה לעומק.
איך מריצים
טעינת הקבצים מתבצעת דרך גרסה עדכנית של llama.cpp שתומכת בארכיטקטורה החדשה, או דרך תוכנות כמו Ollama ו־LM Studio. הגרסאות המכווצות מתחילות מ־4.5 גיגה בייט בקוונטיזציה של שתי סיביות, ומגיעות ל־11.8 גיגה בייט בגרסה הכבדה ביותר. נקודת האמצע המאוזנת תופסת קרוב לשבעה גיגה בייט ורצה בנוחות על כרטיס עם שמונה גיגה זיכרון, כל עוד שומרים על חלון הקשר קצר יחסית.
אם אתם צריכים לפתוח חלונות ענק של מאות אלפי טוקנים על חומרה ביתית, הזיכרון ייגמר מהר מאוד בגלל מטמון ההקשר. במצב כזה, או כשרוצים יכולות סוכן מורכבות יותר שכבר שולבו בגרסה השנייה שלו, עדיף להשתמש במודל גדול יותר דרך שירות ענן.
ollama run hf.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF:Q4_K_M
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
7 קבצים במאגר, 38.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא אפאצ'י שתיים אפס, בדיוק כמו מודל הבסיס של גוגל. מותר להשתמש בו לצרכים מסחריים, לשנות את המשקלים, להפיץ אותם מחדש ולשלב את הקוד במוצר פנימי בלי לשלם תמלוגים, בכפוף לשמירה על תנאי הרישיון המקוריים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים