gemma-3-1b-it-GGUF
קוד פתוחggml-orggemma2025-03-12
מודל מכווץ שרץ מקומית כמעט על כל מחשב, ומאפשר להכניס גם טקסט וגם תמונות. הוא מיועד למי שחייב מודל קל משקל בלי לוותר לגמרי על יכולות ראייה.
- 3.6 GBמשקל הקבצים
- 202,402הורדות בחודש
- 42לייקים
מה זה
גוגל אימנה את גרסת ה־1B על שני טריליון טוקנים, וארזה אותה כמודל מולטימודלי שמקבל טקסט ותמונות ומחזיר טקסט. למרות שהמשפחה הרחבה תומכת בהקשר של 128K, הגרסה הזו מוגבלת ל־32K טוקנים בקלט ועד 8,192 בפלט. המודל מתאים למשימות כמו סיכום, מענה על שאלות וניתוח תמונות בסיסי ברזולוציה של 896 על 896 שמקודדת ל־256 טוקנים.
מבחני הביצועים מראים פערים חדים. בעוד שבמבחני הבנת הנקרא כמו BoolQ הוא מגיע ל־63.2 וב־PIQA ל־73.8, במשימות ידע כללי ושאלות פתוחות הוא מתקשה מאוד. ב־Natural Questions הוא קיבל ציון של 9.48 בלבד, ובמבחן החשיבה הרב-לשוני MGSM הוא צנח ל־2.04 לעומת מעל 34 בגרסת ה־4B. הוא לא תחליף למודלים גדולים, אבל מספק בסיס מהיר למשימות סגורות היטב.
מתאים ל
- חילוץ נתונים מתמונות
הוא מנתח תמונות ברזולוציה של 896 על 896 ומחלץ מידע טקסטואלי מקומי במהירות.
- סיכום טקסטים במכשיר
הקשר של 32K מאפשר לעבד מסמכים ארוכים ישירות על חומרה חלשה בלי לשלוח מידע לענן.
- סיווג טקסטים מהיר
אידיאלי למשימות מוגדרות שדורשות תשובה קצרה ורצות בקצב גבוה על מעבדים פשוטים.
איפה זה נופל
המודל מועד לשגיאות עובדתיות קשות ולא משמש כמאגר ידע אמין. מעבר לציונים הנמוכים בידע כללי, הוא מתקשה להבין סרקזם, שפה ציורית והיגיון בסיסי במצבים פתוחים. בנוסף, בדיקות הבטיחות של גוגל נעשו רק באנגלית, כך שאין שום מידע על האופן שבו הוא מסנן תוכן פוגעני או מתנהג בשפות אחרות.
אותה משפחה
gemma-3 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם המודל תומך בעברית בצורה טובה?
הוא אומן על מעל 140 שפות, אבל מבחני השפה מראים חולשה בגרסת ה־1B עם ציון של 24.9 בלבד ב־Global-MMLU-Lite. הוא יבין עברית בסיסית, אך לא הייתי בונה עליו לניסוחים מורכבים.
אפשר להשתמש בו למענה על שאלות מורכבות?
לא מומלץ. בבדיקות ידע כמו Natural Questions הוא קיבל ציון נמוך מאוד של 9.48, והוא נוטה להמציא עובדות כשאין לו הקשר מפורש בקלט.
איך מריצים
הקבצים שוקלים 3.6 גיגה-בייט בסך הכול, כך שתוכלו להריץ אותם ישירות דרך ספריות שתומכות ב־GGUF כמו llama.cpp על מעבד רגיל בכל לפטופ מודרני, או על כרטיס מסך בסיסי עם 4 עד 6 גיגה זיכרון פנוי. הדרישות הנמוכות הופכות אותו לנוח מאוד לבדיקות מקומיות ללא תלות ברשת.
אם אתם צריכים דיוק בעברית מורכבת, פתרון בעיות מתמטיות או קידוד, המודל הזה פשוט קטן מדי. במקרים כאלה עדיף לפנות ל־API של מודלים גדולים יותר במקום לנסות לפצות על פערי הידע של גרסת ה־1B.
ollama run hf.co/ggml-org/gemma-3-1b-it-GGUF:Q4_K_M
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
5 קבצים במאגר, 3.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
המודל מופץ תחת רישיון gemma של גוגל, שמפנה לתנאי השימוש ומדיניות השימושים האסורים שלהם. מותר להשתמש בו במוצרים מסחריים, אך השימוש כפוף להגבלות מחמירות על יישומים מסוימים, ואתם מחויבים לעמוד בהנחיות השימוש האחראי של החברה.
- שימוש מסחרי
- שינוי הקוד
- כפוף לתנאי השימוש של Google