GPT
G

GemmaX2-28-2B-v0.1

קוד פתוח

ModelSpacegemma2024-11-28

  • transformers
  • safetensors
  • gemma2
  • text-generation
  • translation

גרסה מכווננת של גוגל ג'מה המיועדת אך ורק לתרגום בין 28 שפות, כולל עברית. הוא שוקל מעט ויכול לרוץ מקומית בלי לבלוע משאבי שרת כבדים.

  • 3.2Bפרמטרים
  • 8,192טוקנים בהקשר
  • 6.0 GBמשקל הקבצים
  • 145הורדות בחודש

מה זה

מדובר במודל שפותח על ידי שיאומי ומבוסס על הארכיטקטורה של ג'מה 2. בניגוד למודלי שיחה רגילים, הצוות אימן אותו מחדש על 56 מיליארד טוקנים של מידע מקבילי וחד לשוני ב־28 שפות, ולאחר מכן ביצע כוונון עדין על הוראות תרגום ספציפיות.

בפועל הוא לא מיועד לייצר קוד או לנהל שיחות חופשיות אלא לקחת טקסט משפה אחת ולהעביר אותו לאחרת. הגודל שלו עומד על 3.2 מיליארד פרמטרים, מה שמציב אותו בנקודה נוחה של מודל קל יחסית שמתמחה במשימה בודדת במקום לנסות לדעת הכל.

מתאים ל

  • תרגום מסמכים מקומי

    תרגום טקסטים בין השפות הנתמכות, כולל עברית ואנגלית, ישירות על שרת פנימי ללא תלות ברשת.

  • עיבוד טקסטים באופליין

    שילוב במערכות קצה שאינן מחוברות לאינטרנט וחייבות לתרגם תכנים במהירות ובמשאבים מוגבלים.

  • צמצום עלויות ענן

    החלפת שירותי תרגום חיצוניים בתשלום לעיבוד כמויות גדולות של פניות או טקסטים קצרים.

איפה זה נופל

היוצרים מבהירים במפורש שהמודל תומך אך ורק ב־28 השפות שברשימה, ואין שום ערובה לתוצאות סבירות בשפות אחרות. מעבר לזה, מדובר במודל קטן יחסית, אז תרגום של ביטויים תלויי הקשר עמוק או סלנג מורכב עלול להישבר. כדאי לבדוק אותו על מדגם אמיתי של הטקסטים שלכם לפני שסומכים עליו אוטומטית.

אותה משפחה

GemmaX2-28 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם המודל תומך בתרגום לעברית וממנה?

כן, עברית מופיעה במפורש ברשימת 28 השפות שהמודל אומן עליהן. עם זאת, רצוי לבדוק איכות מול שפה עשירה כדי לוודא דיוק.

האם אפשר להשתמש בו בתור צ'אטבוט רגיל?

לא מומלץ. הוא עבר אימון ייעודי למשימות תרגום, ולכן במשימות יצירה או שיחה כלליות הוא יציג ביצועים נחותים בהרבה ממודלים מקבילים.

איך מריצים

טוענים את המשקלים דרך ספריית טרנספורמרס הרגילה של פייתון ומריצים פרומפט פשוט של תרגום. עם משקל של 6 גיגה בייט בדיוק bfloat16, אפשר להריץ אותו בקלות על כרטיס מסך ביתי בודד עם 8 או 12 גיגה זיכרון, או אפילו לכווץ אותו לרוץ על מעבד רגיל.

אם כל מה שאתם צריכים זה לתרגם עשר פסקאות ביום, כנראה שעדיף לשלוח קריאה ל־API מסחרי מוכן. המודל הזה מתאים כשיש לכם זרם קבוע של טקסטים ואתם לא רוצים לשלם על כל מילה לצד שלישי, או כשחייבים שהמידע לא ייצא מהשרת שלכם.

from transformers import pipeline

pipe = pipeline("translation", model="ModelSpace/GemmaX2-28-2B-v0.1")
print(pipe("שלום"))

הרישיון

הוא מופץ תחת תנאי השימוש של רישיון ג'מה של גוגל. הרישיון הזה מתיר שימוש מסחרי, אבל כפוף למגבלות השימוש ההוגן והבטיחות שהגדירה גוגל במקור. חובה לוודא שהפרויקט שלכם עומד בכללי השימוש של משפחת ג'מה לפני שמעלים אותו לפרודקשן.

  • שימוש מסחרי
  • שינוי הקוד
  • כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗