xlm-roberta-large-squad2

מה זה

מדובר במודל שליפת תשובות מרובה שפות שמבוסס על הארכיטקטורה של רוברטה, עם עשרים וארבע שכבות וגודל של חצי מיליארד פרמטרים. המטרה שלו ממוקדת מאוד, אתם מזינים לו שאלה וקטע טקסט, והוא מחזיר את המיקום המדויק של התשובה מתוך הפסקה. הוא אומן על סט הנתונים של סקוואד שתיים, מה שאומר שהוא יודע לזהות גם מתי התשובה פשוט לא קיימת בטקסט במקום לנחש.

המספרים מראים פער ברור בין שפות. באנגלית הוא מגיע לדיוק של כמעט שמונים אחוז בהתאמה מדויקת וציון של מעל שמונים ושלוש במדד אף אחת. בגרמנית, לעומת זאת, הביצועים שלו צונחים לכיוון ארבעים ותשעה אחוזים בהתאמה מדויקת במבחן מסוים ומגיעים לשישים ואחד אחוזים במבחן אחר. המודל שומר על יכולת רב לשונית, אבל השליטה שלו באנגלית חזקה משמעותית מכל שפה אחרת שנבדקה.

מתאים ל

• שליפת עובדות ממסמכים

  הוא מוצא נתון בודד מתוך פסקה בלי להמציא מילים ובלי לנסח מחדש.

• סינון שאלות ללא מענה

  האימון הייעודי מאפשר לו לסמן בביטחון כשהמידע המבוקש חסר בטקסט.

• חיפוש מבוסס פסקאות בארגון

  מתאים לשילוב בתוך מערכת חיפוש כדי להחזיר למשתמש את המשפט הרלוונטי.

איפה זה נופל

חלון ההקשר עומד על חמש מאות וארבעה עשר טוקנים בלבד, ובאימון השתמשו באורך רצף של מאתיים חמישים ושש. אי אפשר לזרוק אליו מסמך שלם של עשרה עמודים ולצפות לתשובה, אלא חייבים לחתוך את הטקסט לפסקאות קצרות מראש בעזרת מנגנון חופף. בנוסף, הוא מודל ששולף מילים קיימות ולא מייצר ניסוחים חדשים, כך שאם התשובה דורשת סיכום או הסקת מסקנות, הוא ייכשל. לגבי עברית, אין בכרטיס המודל שום נתוני מדידה, ולכן חייבים לבדוק את הדיוק שלו על דאטה מקומי לפני שסומכים עליו.

איך מריצים

המשקל הכולל של הקבצים עומד על ארבע נקודה שני גיגה בייט, כך שצריך כרטיס מסך עם לפחות שמונה גיגה זיכרון כדי להריץ עליו שאילתות בקצב סביר ועם באצ'ים קטנים. ההרצה נעשית דרך ספריית טרנספורמרס הרגילה או ישירות בתוך פייפליין של הייסטאק בתור רכיב קריאה.

אם יש לכם שרת עם מאיץ גרפי ייעודי ואתם צריכים פרטיות מלאה למידע רגיש, הרצה עצמית עובדת מצוין. אם הנפח שלכם נמוך או שאין לכם שרת כזה זמין מסביב לשעון, שירותי ענן שמריצים קונטיינרים לפי דרישה יחסכו לכם את עלויות התחזוקה של החומרה.

from transformers import pipeline

pipe = pipeline("question-answering", model="deepset/xlm-roberta-large-squad2")
print(pipe("שלום"))

הקבצים

8 קבצים במאגר, 4.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin2.2 GB
• model.safetensors2.2 GB
• sentencepiece.bpe.model5.1 MB
• README.md7.7 KB
• config.json606 B
• .gitattributes399 B
• tokenizer_config.json179 B
• special_tokens_map.json150 B

הרישיון

הרישיון הוא קריאייטיב קומונס ייחוס ארבע, שמאפשר שימוש חופשי כולל שימוש מסחרי, שינוי של הקוד והפצה מחדש. התנאי היחיד הוא מתן קרדיט ברור ליוצרים המקוריים וציון הרישיון בכל הפצה של המוצר.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗