GPT
O

opus-mt-de-en

קוד פתוח

Helsinki-NLPapache-2.02022-03-02

  • transformers
  • pytorch
  • tf
  • rust
  • marian

מודל תרגום קומפקטי מגרמנית לאנגלית שרץ מקומית בלי לחשוב פעמיים. הוא עושה עבודה ממוקדת מאוד בלי המשקל והסרבול של מודלי שפה ענקיים.

  • 512טוקנים בהקשר
  • 1.1 GBמשקל הקבצים
  • 349,136הורדות בחודש
  • 50לייקים

מה זה

זהו מודל מבוסס MarianMT עם 6 שכבות בלבד, שנועד לתרגם מגרמנית לאנגלית בלבד מתוך מאגר הנתונים OPUS. הוא משתמש בטוקניזציה של SentencePiece ועושה משימה אחת בצורה ישירה, בלי יכולות שיחה ובלי יומרה להבין את העולם מעבר לתרגום הטקסט שמזינים אליו.

מבחני הביצועים מראים פערים ברורים בין סוגי טקסטים שונים. במשפטים קצרים ופשוטים ממאגר Tatoeba הוא מגיע לציון BLEU של 55.4, אבל במבחני חדשות מורכבים כמו newstest מציג טווח שנע בין 26.8 בטקסטים מוקדמים ל־43.7 בטקסטים חדשים יותר. זה אומר שככל שהמשפט ארוך ומורכב יותר תחבירית, התרגום יהיה פחות מדויק וידרוש בדיקה.

מתאים ל

  • תרגום טקסטים רגישים

    אידיאלי להרצה אופליין בתוך רשת סגורה, בלי לשלוח נתונים לשרתים חיצוניים.

  • עיבוד תגובות משתמשים

    מתאים לתרגום מהיר וזול של פידבקים קצרים או ביקורות מגרמנית לאנגלית.

  • פייפליין מקדים לניתוח תוכן

    מאפשר לתרגם טקסטים מגרמנית לפני שמזינים אותם למודלי שפה שמבינים רק אנגלית.

איפה זה נופל

חלון ההקשר מוגבל ל־512 טוקנים, כך שאי אפשר לזרוק עליו מסמכים שלמים בלי לחתוך אותם לפסקאות קודם. הוא גם מתרגם בכיוון אחד בלבד, מגרמנית לאנגלית, ולא יעזור לכם בכל צירוף שפות אחר.

ציוני ה־BLEU הנמוכים סביב 26 ו־27 בחלק ממבחני החדשות מעידים על כך שבטקסטים עיתונאיים, משפטיים או טכניים מורכבים הוא עלול לתרגם בצורה עילגת או לאבד ניואנסים חשובים.

שאלות
נפוצות

האם המודל יודע לתרגם גם מאנגלית לגרמנית?

לא. המודל הזה אומן אך ורק בכיוון של גרמנית כמקור ואנגלית כיעד. לתרגום הפוך תצטרכו להוריד מודל ייעודי אחר.

האם אני חייב כרטיס מסך כדי להריץ אותו בייצור?

ממש לא. הוא שוקל קצת יותר מג'יגה בייט וכולל 6 שכבות בלבד, כך שמעבד רגיל יתמודד איתו בלי שום בעיה ובזמני תגובה טובים.

איך מריצים

המודל שוקל 1.1 ג'יגה בייט ורץ דרך ספריית transformers הרגילה של פייתון. בגלל הגודל הזעיר וחלון של 512 טוקנים, אין שום צורך במעבד גרפי כבד, והוא ירוץ בקלות ובמהירות גם על מעבד רגיל של שרת זול או מחשב מקומי.

אם אתם צריכים לתרגם כמויות גדולות של מידע רגיש שלא יכול לצאת מהרשת המקומית, עדיף להרים אותו עצמאית בכמה דקות. מנגד, אם כל מה שאתם צריכים זה תרגום מזדמן של כמה פסקאות ביום, כנראה שפשוט יותר להשתמש ב־API חיצוני של שירות ענן במקום לתחזק תהליך עצמאי.

from transformers import pipeline

pipe = pipeline("translation", model="Helsinki-NLP/opus-mt-de-en")
print(pipe("שלום"))

הרישיון

הרישיון הוא apache-2.0, שמאפשר שימוש מסחרי מלא וחופשי. אתם יכולים לשלב אותו במוצר שלכם, לשנות אותו ולהפיץ אותו, כל עוד אתם שומרים על הודעת זכויות היוצרים ומצרפים את נוסח הרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗