GPT
M

mbart-large-cc25

קוד פתוח

facebookרישיון לא דווח2022-03-02

  • transformers
  • pytorch
  • tf
  • mbart
  • text2text-generation

בסיס רב לשוני של פייסבוק שמכסה 25 שפות ומיועד בעיקר לתרגום או סיכום. שווה לבדוק אותו רק אם אתם מתכננים לעשות כוונון עדין למשימה ספציפית.

  • 1,024טוקנים בהקשר
  • 4.6 GBמשקל הקבצים
  • 19,234הורדות בחודש
  • 69לייקים

מה זה

מדובר במודל רב לשוני מבוסס MBartForConditionalGeneration עם 12 שכבות, שפורסם במקור על ידי פייסבוק. הנקודה המרכזית כאן היא שמדובר במודל שעבר אימון מקדים בלבד ולא עבר התאמה סופית למשימה מוגדרת. הוא תומך ברשימה של 25 שפות, כולל אנגלית, ערבית, צרפתית וגרמנית, אבל לא כולל עברית.

בגלל שהוא מגיע במצב גולמי יחסית, אי אפשר פשוט לתת לו טקסט ולצפות לתרגום איכותי מהרגע הראשון. השימוש העיקרי שלו הוא נקודת פתיחה לאימון נוסף עבור תרגום מכונה או סיכום טקסטים בשפות הנתמכות, דרך ספריית transformers.

מתאים ל

  • בסיס לכוונון תרגום

    הוא כולל 25 שפות מובנות ומאפשר לאמן מודל ייעודי לצמדי שפות ספציפיים.

  • אימון למשימות סיכום

    הארכיטקטורה שלו מתאימה ליצירת סיכומים אחרי תהליך התאמה על דאטה רלוונטי.

  • מחקר על מודלים רב לשוניים

    משקל של 4.6 גיגה בייט מאפשר לחקור ארכיטקטורת seq2seq על חומרה סטנדרטית.

איפה זה נופל

החיסרון הברור ביותר הוא שהמודל מוגדר במפורש ככזה שלא עבר כוונון עדין. אם תנסו להריץ אותו ישירות לתרגום בלי לאמן אותו על דאטה מתאים, התוצאות יהיו חלשות מאוד. בנוסף, עברית בכלל לא נמצאת ברשימת 25 השפות המקוריות שלו, וחלון ההקשר מוגבל ל־1,024 טוקנים בלבד, מה שלא מתאים למסמכים ארוכים.

שאלות
נפוצות

האם אפשר להשתמש בו לתרגום ישירות מהקופסה?

לא, המודל עבר רק אימון מקדים ולא עבר כוונון למשימת תרגום סופית. תצטרכו לאמן אותו על נתונים משלכם לפני שתקבלו פלט שימושי.

האם המודל תומך בעברית?

לא, עברית אינה מופיעה ברשימת 25 השפות המקוריות של המודל. השפות באזור כוללות ערבית, אך אין כאן תמיכה בעברית.

איך מריצים

המשקל הכולל של הקבצים עומד על 4.6 גיגה בייט, כך שכרטיס מסך בסיסי עם 8 או 16 גיגה זיכרון יספיק להרצה מקומית ולניסויים ראשוניים. הטעינה מתבצעת ישירות דרך ספריית transformers.

אם אתם מתכננים לאמן אותו מחדש, תצטרכו משאבים כבדים יותר. במקרים שבהם אתם צריכים תרגום מוכן מראש בלי להשקיע שעות באימון וכוונון, עדיף להשתמש במודל שכבר עבר התאמה או לפנות לשירות קיים.

from transformers import pipeline

pipe = pipeline("translation", model="facebook/mbart-large-cc25")
print(pipe("שלום"))

הרישיון

למודל הזה לא דווח רישיון בעמוד הרשמי שלו. מבחינה משפטית מדובר בסיכון, כי אין אישור כתוב לשימוש מסחרי או הפצה בתוך מוצר. כל עוד הסטטוס לא ברור מול פייסבוק, עדיף לא לשלב אותו במערכות ייצור.

הרישיון המלא בעמוד המודל ↗