Gemma-3-R1984-12B

מה זה

מדובר בהתאמה של גוגל גמה 3 שמכוונת לפעול כמערכת סוכנים עצמאית. היא יודעת לבלוע לא רק טקסט אלא גם תמונות, קובצי וידאו בפורמט MP4 ומסמכים כמו PDF או CSV, עם חלון הקשר של עד 8,000 טוקנים. הייחוד כאן הוא השילוב של היכולות המולטימודליות עם תהליך מחקר אוטונומי, שבו המודל שולף מילות מפתח ומבצע חיפוש חי ברשת בעזרת ממשק חיצוני כדי לבסס את התשובות שלו.

בניגוד לגרסאות המקוריות של גוגל, ההתאמה הזו מוגדרת כלא מצונזרת ומיישמת שרשרת חשיבה מורחבת לפתרון בעיות מורכבות. המערכת מחזירה תשובות ישירות בלי חסימות תוכן טיפוסיות, וכוללת תמיכה בשפות כמו אנגלית, ספרדית, ערבית ורוסית, אבל עברית אינה מופיעה ברשימת השפות הרשמית שלה.

מתאים ל

• מחקר מבוסס מסמכים ורשת

  שליפת עובדות והצלבת קובצי PDF ו־CSV מול תוצאות חיפוש עדכניות באינטרנט עם ציטוט מקורות.

• ניתוח וידאו מקומי

  מענה על שאלות מתוך קובצי MP4 ותמונות על גבי שרת ארגוני פנימי ללא תלות בענן ציבורי.

• מענה מורכב ללא חסימות

  פתרון בעיות בשרשרת חשיבה עבור נושאים שמודלים מסחריים רגילים מסרבים לענות עליהם עקב צנזורה.

איפה זה נופל

דרישות הזיכרון הגרפי מוגזמות לחלוטין עבור מודל של 12 מיליארד פרמטרים, כאשר פיק של 82 גיגה בייט פוסל כמעט כל כרטיס ביתי או שרת ענן זול. בנוסף, חלון ההקשר מוגבל ל־8,000 טוקנים בלבד, שזה מעט מאוד לעיבוד וידאו או השוואת מסמכים מרובים. פיצ'ר החיפוש תלוי לחלוטין בשירות חיצוני של SERPHouse, מה שאומר שהמערכת אינה באמת מבודדת מרשתות חיצוניות כפי שהתיאור מנסה לטעון, ועברית אינה נתמכת רשמית.

אותה משפחה

Gemma-3-R1984 יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל של הקבצים מגיע ל־22.7 גיגה בייט בפורמט bfloat16, אבל דרישות החומרה בפועל כבדות בהרבה. המפתחים דורשים שרת מקומי עם מאיץ NVIDIA L40s או לפחות NVIDIA A100, ומציינים דרישת מינימום של 53 גיגה בייט של זיכרון גרפי, עם קפיצות שמגיעות ל־82 גיגה בייט בזמן עיבוד קבצים וחיפוש.

כדי להריץ אותו צריך פייתון 3.8 ומעלה, ספריית transformers ושלל תלויות לעיבוד מדיה כמו OpenCV, PyPDF2 ו־Gradio. בנוסף, חובה להגדיר מפתח גישה לשירות SERPHouse כדי להפעיל את יכולת החיפוש ברשת. אם אין לכם גישה למאיצי שרת יקרים, עדיף להתרחק מהרצה מקומית ולפנות לפתרונות API מנוהלים.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="VIDraft/Gemma-3-R1984-12B")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 22.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00005.safetensors5.0 GB
• model-00003-of-00005.safetensors4.9 GB
• model-00004-of-00005.safetensors4.9 GB
• model-00002-of-00005.safetensors4.9 GB
• model-00005-of-00005.safetensors4.6 GB
• tokenizer.json33.4 MB
• tokenizer.model4.7 MB
• tokenizer_config.json1.2 MB
• model.safetensors.index.json109.7 KB
• README.md5.7 KB
• chat_template.json1.6 KB
• .gitattributes1.6 KB
• config.json956 B
• special_tokens_map.json575 B
• preprocessor_config.json571 B
• generation_config.json203 B
• processor_config.json71 B
• added_tokens.json36 B

הרישיון

הרישיון מפוצל ומבלבל. המפתחים מציינים רישיון MIT עבור רכיבי הסוכן והקוד, אך מודל הבסיס כפוף לתנאי הרישיון של gemma מבית גוגל. בפועל, רישיון גמה מאפשר שימוש מסחרי תחת מגבלות שימוש הוגן ומדיניות איסור הפצה של תכנים מסוכנים, מה שעשוי להתנגש עם ההגדרה של המודל כבלתי מצונזר.

• שימוש מסחרי
• שינוי הקוד
• כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗