Gemma-3-Gaia-PT-BR-4b-it

מה זה

מדובר במודל של 4.3 מיליארד פרמטרים שמבוסס על הארכיטקטורה של גמה 3. צוות המחקר אימן אותו מחדש על קורפוס של 13 מיליארד טוקנים בפורטוגזית, שכלל ויקיפדיה ומאמרים מדעיים, ולאחר מכן שילב את המשקלים כדי לשמר יכולת שיחה ומעקב אחרי הוראות בלי אימון מכוון רגיל.

במבחני ביצועים מקומיים רואים שהאימון הנוסף עזר בעיקר בידע כללי ברזילאי. במבחן הבגרות הברזילאי ENEM לשנת 2024 הוא עלה מציון 0.6556 של מודל הבסיס ל־0.7000. במבחנים אחרים כמו בחינות לשכת עורכי הדין בברזיל הוא אפילו רשם ירידה קלה מ־0.4502 ל־0.4416, מה שמראה שהיכולת המשפטית וההסקה הכללית לא באמת השתפרו לעומת המקור.

מתאים ל

• מענה לקוחות בברזיל

  ניהול שיחות שירות בפורטוגזית ברזילאית שוטפת בעלות חישוב נמוכה.

• מערכות RAG למסמכים בפורטוגזית

  שליפת מידע ומענה על שאלות מתוך מאגר ידע ארגוני שכתוב בפורטוגזית.

• סיווג טקסטים ורגשות

  בסיס למודל מיון של תוכן מקומי ומשובים מלקוחות בברזיל.

איפה זה נופל

היוצרים מדגישים שהביצועים של המודל מחוץ לשפה הפורטוגזית ירודים משמעותית, כך שאין מה לבנות עליו לעברית או לאנגלית. בנוסף, החומרים מהם למד כוללים מקורות פתוחים שעלולים להחדיר הטיות חברתיות, והוא נוטה להזיות בעובדות קריטיות. הציונים בבחינות מראים שהוא לא מתעלה על מודל הבסיס במשימות מורכבות כמו ניתוח משפטי.

איך מריצים

הקבצים שוקלים 8 גיגה בייט בפורמט bfloat16. כדי להריץ אותו בנוחות בלי קוונטיזציה תצטרכו כרטיס מסך עם לפחות 12 עד 16 גיגה בייט זיכרון, במיוחד אם תנצלו את חלון ההקשר המלא שמגיע ל־131 אלף טוקנים. הוא נתמך ישירות בספריית transformers תחת הארכיטקטורה Gemma3ForConditionalGeneration.

אם אין לכם כרטיס ייעודי מקומי, עדיף להרים שרת מנוהל בענן לשעות שבהן יש עומס. במקרה שהעיבוד בפורטוגזית הוא משימה חד פעמית ולא רציפה, שירות ענן חיצוני זול בהרבה מלהחזיק חומרה דולקת.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="CEIA-UFG/Gemma-3-Gaia-PT-BR-4b-it")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 8.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors3.6 GB
• tokenizer.json33.4 MB
• tokenizer.model4.7 MB
• tokenizer_config.json1.2 MB
• model.safetensors.index.json90.6 KB
• README.md7.3 KB
• chat_template.json1.6 KB
• config.json1.6 KB
• .gitattributes1.6 KB
• special_tokens_map.json662 B
• preprocessor_config.json570 B
• generation_config.json210 B
• processor_config.json70 B
• added_tokens.json35 B

הרישיון

הרישיון הוא רישיון gemma של גוגל. הוא מאפשר שימוש מסחרי ומחקר תחת תנאי השימוש והמדיניות של גוגל למשפחת המודלים הזו, אך דורש עמידה בהגבלות שימוש מקובלות ושמירה על ייחוס המקור.

• שימוש מסחרי
• שינוי הקוד
• כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗