GPT
הוספת כלי
M

minilm-uncased-squad2

קוד פתוח

deepsetcc-by-4.02022-03-02

  • transformers
  • pytorch
  • jax
  • safetensors
  • bert

זה מודל חילוץ תשובות קטן במיוחד ששוקל פחות מ־400 מגה-בייט. הוא מתאים למי שרוצה מענה מהיר על טקסט באנגלית מקומית ובלי להחזיק כרטיס מסך יקר.

  • 33Mפרמטרים
  • 512טוקנים בהקשר
  • 382 MBמשקל הקבצים
  • 21,215הורדות בחודש

מה זה

הבסיס כאן הוא MiniLM של מיקרוסופט שעבר כוונון ייעודי למשימות חילוץ מידע על גבי מאגר SQuAD 2.0. במקום לייצר טקסט חדש ולנחש מילים, הוא מקבל שאלה וקטע תוכן, ומסמן בדיוק את התו שבו התשובה מתחילה ומסתיימת. המודל מחזיק 33 מיליון פרמטרים ורץ על 12 שכבות, מה שהופך אותו לגרסה רזה מאוד לעומת מודלי BERT קלאסיים.

במבחן SQuAD 2.0 הוא הגיע לציון F1 כולל של 79.49 ודיוק מלא של 76.13. כשיש תשובה מפורשת בטקסט ה־F1 עולה ל־85.1, אבל החוזק האמיתי שלו הוא בזיהוי מצבים שבהם הטקסט לא מכיל מענה, שם הוא מדייק ב־73.9 אחוז מהמקרים ויודע לחזור בידיים ריקות במקום להמציא שטויות.

מתאים ל

  • מענה בתוך מאגר תיעוד

    שליפת תשובות קצרות ישירות מתוך עמודי עזרה טכניים באנגלית, בזמני תגובה אפסיים.

  • חילוץ ערכים מטפסים

    זיהוי שדות ספציפיים מתוך טקסטים באנגלית בלי להפעיל מודלים כבדים שמייצרים טקסט.

  • מערכות חיפוש פנימיות

    סימון המקטע המדויק שעונה על שאילתת המשתמש מתוך תוצאות חיפוש באנגלית.

איפה זה נופל

הוא יודע אנגלית בלבד ולא מבין עברית בכלל. בנוסף, חלון ההקשר שלו מוגבל ל־512 טוקנים, ובאימון השתמשו באורך רצף של 384 בלבד. אם תזרקו עליו מסמך ארוך בלי לחתוך אותו לפסקאות קודם, הוא פשוט לא יקרא את ההמשך. הוא גם מוגבל לחילוץ טקסט קיים, כך שאם התשובה דורשת סיכום, הסקת מסקנות או חישוב, תקבלו תשובה שבורה או כלום.

שאלות
נפוצות

האם המודל תומך בעברית?

לא, הוא אומן על אנגלית בלבד וגם המודל הבסיסי שלו מתמחה באנגלית. בעברית הוא ייכשל לגמרי ולא יצליח לחלץ שום דבר הגיוני.

האם הוא מסוגל לנסח תשובה במילים שלו?

לא, זה מודל חילוץ ולא מודל גנרטיבי. הוא רק מחזיר את המיקום המדויק של התשובה מתוך הטקסט שסיפקתם לו, מילה במילה.

איך מריצים

טוענים אותו ישירות דרך הספרייה transformers בפייתון או כחלק מצינור עיבוד של Haystack. גודל הקבצים מסתכם ב־382 מגה-בייט בלבד, כך שלא צריך GPU בכלל. שרת פשוט עם מעבד סטנדרטי וקצת זיכרון יריץ אותו במילישניות בודדות לכל קריאה.

אין שום סיבה לשלם לספק חיצוני על API בשביל מודל כזה. אם אתם עובדים עם אנגלית והטקסטים שלכם ממוקדים, פשוט שמים אותו על השרת הקיים שלכם ומריצים מקומית בלי תלויות ברשת.

from transformers import pipeline

pipe = pipeline("question-answering", model="deepset/minilm-uncased-squad2")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 382 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא CC-BY 4.0. אפשר להשתמש בו חופשי במוצרים מסחריים, לשנות אותו ולהפיץ אותו הלאה. התנאי היחיד הוא לתת קרדיט ליוצרים המקוריים, deepset במקרה הזה, ולציין אם ביצעתם שינויים בקוד או במשקולות.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗