GPT
M

multilingual-MiniLMv2-L6-mnli-xnli

קוד פתוח

MoritzLaurermit2023-02-11

  • transformers
  • pytorch
  • onnx
  • safetensors
  • xlm-roberta

סיווג טקסט רב לשוני מהיר בלי לאמן מודל מאפס. פתרון קל משקל שרץ בזול על מעבד רגיל כשצריך תוצאות מיידיות בכמה שפות במקביל.

  • 107Mפרמטרים
  • 514טוקנים בהקשר
  • 1.2 GBמשקל הקבצים
  • 16,853הורדות בחודש

מה זה

מדובר במודל זירו שוט רב לשוני שמבוסס על גרסה מזוקקת של מודל ענק מבית מיקרוסופט. הוא אומן על משימת הסקת קשרים לוגיים בין משפטים, וכך הוא יודע לקחת טקסט ולבדוק האם תוויות שתספקו לו מתאימות לתוכן, ביותר ממאה שפות שונות, גם בלי שראה דוגמאות ספציפיות מהדומיין שלכם.

היתרון שלו הוא המהירות. היוצר זיקק אותו כדי לחסוך חישובים, והאימון הנוסף על נתונים מתורגמים מקצועית הביא אותו לדיוק ממוצע של 0.713 במבחני שפות, לעומת 0.68 בגרסת המקור. באנגלית הוא מגיע לדיוק של כמעט 0.79, אבל בשפות אחרות כמו סוואהילי או אורדו המספרים יורדים לאזור ה־0.64 עד 0.66.

מתאים ל

  • ניתוב פניות לקוחות

    מיון מיידי של הודעות תמיכה נכנסות לפי נושאים בכמה שפות בלי אימון מראש.

  • סינון תוכן בזמן אמת

    קצב עיבוד מהיר במיוחד שמתאים לבדיקת תגובות ופוסטים ברשתות ישירות על מעבד.

  • קטלוג מסמכים קצרים

    תיוג מאמרים או פסקאות לקטגוריות מוגדרות מראש בלחיצת כפתור וללא דאטה מתויג.

איפה זה נופל

הדיוק שלו מוגבל בגלל הזיקוק, והיוצר עצמו מציין שאם צריך דיוק גבוה עדיף לפנות למודלים כבדים יותר. חלון ההקשר מוגבל ל־514 טוקנים, כך שאי אפשר להזין מסמכים ארוכים בלי לחתוך אותם קודם. נוסף על כך, עברית לא נכללה בבדיקות הביצועים הרשמיות, ולכן סביר להניח שהיכולת שלו לזהות הקשרים בעברית תהיה נמוכה משמעותית מהתוצאות באנגלית או בספרדית.

שאלות
נפוצות

האם המודל יסווג טוב טקסטים בעברית?

הוא תומך עקרונית בהרבה שפות, אבל לא נבדק על עברית במבחנים הרשמיים. הביצועים בעברית יהיו נמוכים מהתוצאות שמוצגות באנגלית, ולכן צריך לבדוק אותו מקומית על הדאטה שלכם לפני שסומכים עליו בייצור.

כדאי להריץ אותו על המעבד או שחובה כרטיס מסך?

הוא קל מספיק כדי לרוץ על מעבד רגיל לגמרי בשאילתות בודדות. כרטיס מסך נחוץ רק אם אתם צריכים לעבד אלפי טקסטים בשנייה במקביל.

איך מריצים

המודל שוקל 1.2 גיגה בייט בלבד, כך שאין שום סיבה לשלם על שירותי ענן יקרים. אפשר להריץ אותו דרך ספריית הטרנספורמרים הסטנדרטית בפייתון ישירות על השרת שלכם, אפילו על מעבד רגיל בלי מאיץ גרפי בכלל, ולקבל זמני תגובה טובים.

אם יש לכם כרטיס גרפי מודרני, הוא מסוגל לעבד אלפי טקסטים בשנייה במקבצים. שירות חיצוני שווה לבדוק רק אם אין לכם תשתית שרתים משלכם ואתם רוצים להימנע מניהול קוד ושרתים לחלוטין.

from transformers import pipeline

pipe = pipeline("zero-shot-classification", model="MoritzLaurer/multilingual-MiniLMv2-L6-mnli-xnli")
print(pipe("שלום"))

הרישיון

הרישיון הוא MIT, מה שאומר שמותר לעשות איתו כמעט הכל. אפשר להטמיע אותו במוצרים מסחריים סגורים, לשנות את הקוד ולהפיץ אותו בחופשיות. התנאי היחיד הוא שמירת הודעת זכויות היוצרים המקורית בתוך הפרויקט.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗