GPT
O

opus-mt-tc-big-en-tr

קוד פתוח

Helsinki-NLPcc-by-4.02022-04-13

  • transformers
  • pytorch
  • tf
  • marian
  • text2text-generation

הוא מתרגם ישירות מאנגלית לטורקית ומיועד למי שרוצה מודל ממוקד שרץ מקומית בלי תלות ברשת. הוא שוקל מעט, רץ מהר וחוסך תשלום לפי טוקן בשירותים חיצוניים.

  • 1,024טוקנים בהקשר
  • 1.3 GBמשקל הקבצים
  • 160,349הורדות בחודש
  • 58לייקים

מה זה

מדובר במודל תרגום מכונה ממשפחת MarianMT שאומן על מאגרי OPUS ופרויקט Tatoeba. הוא עושה עבודה אחת בלבד, לקבל טקסט באנגלית ולהחזיר אותו בטורקית, כשהוא מתבסס על ארכיטקטורת שנאי גדולה יותר מהגרסאות הבסיסיות של הפרויקט, עם 6 שכבות ודיוק של float16.

במבחני BLEU הוא מציג תוצאות מעורבות שתלויות בסוג הטקסט. במשפטים קצרים ויומיומיים ממאגר tatoeba הוא מגיע לציון גבוה של 42.3, אבל במבחני חדשות כמו newstest2016 עד 2018 הציון צונח לאזור ה־21 עד 25. זה אומר שהוא מתמודד סביר עם מבנים שגרתיים, אבל יתקשה לשמור על דיוק בניסוחים מורכבים ועמוסי הקשר עיתונאי.

מתאים ל

  • לוקליזציה של ממשקים

    תרגום שורות קצרות באנגלית לטורקית בתוך מערכות פנימיות, בלי תלות בחיבור לרשת חיצונית.

  • עיבוד תגובות ותמיכה

    המרת הודעות ופניות של לקוחות באנגלית לטורקית לצורך ניתוב מהיר ומקומי.

  • תרגום מקדים למאגרי מידע

    הזנת טקסטים קצרים בתהליכי batch בלי לשלם על עלויות API לכל טוקן.

איפה זה נופל

הוא מוגבל לתרגום חד-כיווני מאנגלית לטורקית, כך שהוא לא יעזור לתרגום הפוך ולא יודע מילה בעברית. חלון ההקשר מגיע ל־1,024 טוקנים, ולכן הוא לא מתאים למסמכים שלמים ברצף בלי לחתוך אותם קודם לפסקאות או משפטים. ירידת הציונים בטקסטים חדשותיים מראה שהוא נוטה לפספס במשפטים מפותלים, אז תצטרכו לבדוק את התחביר הטורקי לפני שמשלבים אותו בממשק שפונה למשתמשי קצה.

שאלות
נפוצות

האם אפשר לתרגם בעזרתו מטורקית לאנגלית?

לא. המודל הזה אומן בכיוון אחד בלבד, מאנגלית לטורקית. כדי לתרגם בכיוון ההפוך תצטרכו להוריד מודל מקביל שמתמחה ב־tr-en.

האם הוא מסוגל לתרגם לעברית או לתמוך בה?

לא. אין לו תמיכה בעברית כלל, לא בקלט ולא בפלט. הוא עובד אך ורק עם השפות en ו־tr.

האם צריך מחשב חזק במיוחד כדי להריץ אותו?

לא, גודל הקבצים הוא 1.3 ג'יגה בייט בלבד. כל שרת ענן פשוט או מחשב פיתוח מודרני יריצו אותו על מעבד, אם כי GPU יספק ביצועים מהירים יותר.

איך מריצים

אתם טוענים אותו ישירות דרך ספריית transformers בפייתון באמצעות MarianMTModel או pipeline ייעודי. עם משקל של 1.3 ג'יגה בייט על הדיסק, הוא לא דורש שרת כבד ורץ בלי בעיה על מעבד רגיל, אם כי כרטיס מסך בסיסי ייתן לכם זמני תגובה טובים בהרבה לעיבוד כמויות.

אם אתם צריכים תרגום אצווה מקומי בלי לשלוח מידע החוצה, אין סיבה לשלם על API חיצוני. במקרים שבהם נדרש תרגום מורכב של מאמרים טכניים או ספרותיים, מודלים מסחריים מבוססי ענן כנראה יתנו תוצאה קריאה ומדויקת יותר.

from transformers import pipeline

pipe = pipeline("translation", model="Helsinki-NLP/opus-mt-tc-big-en-tr")
print(pipe("שלום"))

הרישיון

הוא מופץ תחת רישיון cc-by-4.0. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי של המשקלים והפצה במוצר שלכם. התנאי היחיד הוא מתן קרדיט מתאים ליוצרים, Helsinki-NLP, וציון הקישור לרישיון ולפרסומים המקוריים.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗