Gemma-3-R1984-12B-Q6_K-GGUF
קוד פתוחopenfreegemma2025-03-30
גרסת GGUF מכווצת של מודל מולטימודלי בגודל 12 מיליארד פרמטרים. פתרון מתאים למי שרוצה להריץ מודל תמונה וטקסט מקומית על מעבד או כרטיס גרפי בינוני.
- 9.0 GBמשקל הקבצים
- 99הורדות בחודש
- 126לייקים
מה זה
מדובר בהמרה של VIDraft/Gemma-3-R1984-12B לפורמט GGUF בכימות Q6_K, שנעשתה באמצעות llama.cpp. המודל שייך למשפחת מודלי תמונה וטקסט, כך שהוא מקבל קלט ויזואלי ומחזיר טקסט בהתאם. הוא תומך ברשימה של שפות מרכזיות ובהן אנגלית, ערבית, ספרדית, רוסית ושפות אסייתיות, אך עברית אינה מופיעה ביניהן באופן רשמי.
בגודל של 12 מיליארד פרמטרים, המודל יושב בדיוק באמצע שבין מודלים קטנים וזריזים של 7 או 8 מיליארד לבין ענקים של 70 מיליארד. הכרטיס המקורי נוצר בעזרת כלי אוטומטי, ולכן אין בו תוצאות מדידה מספריות או פירוט על אימון ההמשך שנעשה תחת השם R1984. מי שבוחר בו מקבל שילוב של עיבוד תמונה עם נפח זיכרון יחסית נגיש לעבודה מקומית.
מתאים ל
- ניתוח תמונות מקומי
מאפשר לעבד תמונות ולהפיק תיאורים בלי לשלוח מידע לשרתים חיצוניים ברשת.
- פיתוח על חומרה ביתית
משקל של 9.0 גיגה בייט נכנס בכרטיסי מסך מודרניים עם 16 גיגה בייט זיכרון.
- עבודה מרובת שפות
תומך בשפות מוגדרות מראש כמו אנגלית, ערבית, ספרדית ורוסית.
איפה זה נופל
דף המודל דל בפרטים ולא חושף אילו שינויים עבר הבסיס של גוגל, מה מטרת הכיוונון R1984 או באילו נתונים השתמשו. אין כאן שום מידע על מבחני ביצועים, ועברית אינה ברשימת השפות הנתמכות, כך שצריך לבדוק היטב את איכות הפלט לפני שמשלבים אותו במערכת שפונה למשתמשים מקומיים.
שאלות
נפוצות
האם המודל יפעל היטב בעברית?
עברית לא נכללת ברשימת השפות הרשמיות של המודל. סביר שהוא יזהה מילים בודדות בזכות בסיס האימון הרחב, אבל לא מומלץ להסתמך עליו למשימות שדורשות הבנה מעמיקה של השפה.
באיזו חומרה כדאי להשתמש להרצה?
הקובץ שוקל 9.0 גיגה בייט. מומלץ להצטייד במחשב מק עם זיכרון מאוחד של 16 גיגה בייט לפחות, או במחשב עם כרטיס מסך שמכיל זיכרון ייעודי בנפח דומה כדי לקבל זמני מענה סבירים.
איך מריצים
המשקל הכולל של הקבצים עומד על 9.0 גיגה בייט, כך שתצטרכו כרטיס מסך עם לפחות 12 עד 16 גיגה בייט זיכרון כדי לטעון אותו במלואו, או להסתמך על זיכרון המערכת בריצה על גבי מעבד. ההרצה מתבצעת ישירות דרך llama.cpp, בין אם באמצעות שורת הפקודה או שרת מקומי שמאזין לבקשות.
אם יש לכם מחשב ללא מאיץ גרפי מתאים, או אם אתם צריכים לטפל באלפי תמונות ביום, עדיף להשתמש ב־API חיצוני של מודל גדול ומנוהל במקום להחזיק שרת ייעודי שמריץ את הקובץ הזה.
ollama run hf.co/openfree/Gemma-3-R1984-12B-Q6_K-GGUF:Q6_K
הקבצים
3 קבצים במאגר, 9.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
המודל מופץ תחת רישיון gemma. הרישיון הזה של גוגל מאפשר בדרך כלל שימוש מסחרי ומחקר, אך מחייב עמידה בתנאי השימוש הספציפיים שלהם והגבלות על יישומים מסוימים, ולכן יש לקרוא את נוסח הרישיון המקורי לפני הפצה במוצר.
- שימוש מסחרי
- שינוי הקוד
- כפוף לתנאי השימוש של Google