deberta-v3-large-squad2
קוד פתוחdeepsetcc-by-4.02022-07-25
פתרון מדויק לשליפת תשובות מתוך טקסט באנגלית בלי להמציא עובדות. הוא שולף את המקטע המדויק מתוך הפסקה ויודע לזהות מתי המידע פשוט חסר.
- 434Mפרמטרים
- 512טוקנים בהקשר
- 3.2 GBמשקל הקבצים
- 9,299הורדות בחודש
מה זה
המודל הזה עבר אימון ייעודי על סט הנתונים של SQuAD2.0 למשימת חילוץ תשובות ישירות מתוך טקסט נתון. במקום לייצר טקסט חופשי, הוא מצביע על המיקום המדויק של התשובה בתוך המסמך, ולכן הוא לא סובל מהזיות טיפוסיות של מודלים יוצרים.
במבחני הביצועים של SQuAD 2.0 המודל הגיע לציון F1 כולל של 90.75 ודיוק מדויק של 87.61 אחוז. הנתון המעניין באמת מגיע מהשאלות שאין להן תשובה בטקסט, שם הוא מציג דיוק של 90.83 אחוז בזיהוי שהתשובה אינה קיימת, מה שמונע ממנו לפלוט ניחושים שגויים כשחסר מידע.
מתאים ל
- שליפת עובדות ממסמכים
שליפת תשובות מדויקות מתוך מדריכים טכניים או מאגרי ידע פנימיים באנגלית בלי סכנה למידע מומצא.
- סינון שאלות ללא מענה
זיהוי מצבים שבהם הטקסט לא מכיל את התשובה כדי להעביר את הפנייה לנציג אנושי במקום להחזיר שגיאה.
- צינורות חיפוש מבוססי טקסט
שילוב כשלב סופי במנועי חיפוש פנימיים שמציג למשתמש את המשפט הספציפי שחיפש מתוך הפסקה.
איפה זה נופל
ההגבלה הקשה ביותר כאן היא חלון הקשר של 512 טוקנים בלבד. אי אפשר להזין אליו מסמכים ארוכים בבת אחת, וחייבים לחתוך טקסטים לפסקאות קצרות עם חפיפה של טוקנים כדי לא לאבד הקשר.
בנוסף, המודל אומן אך ורק על השפה האנגלית. אל תנסו להריץ עליו טקסטים בעברית כי הוא לא בנוי לזה וייכשל לחלוטין. הוא גם לא מסוגל לסכם מידע או לחבר תשובה שדורשת שילוב של שני משפטים נפרדים, אלא רק לסמן קטע רציף בודד.
שאלות
נפוצות
האם המודל תומך בשפה העברית?
לא. המודל אומן על נתונים באנגלית בלבד. אם תזינו לו שאלה או הקשר בעברית, התוצאות יהיו חסרות ערך ולא רלוונטיות.
איך מתמודדים עם מסמך שארוך מ־512 טוקנים?
מחלקים את המסמך לחתיכות קטנות יותר עם חפיפה בין המקטעים, למשל חפיפה של 128 טוקנים. לאחר מכן מריצים את השאילתה על כל מקטע בנפרד ולוקחים את התוצאה עם הציון הגבוה ביותר.
האם המודל מסוגל לנסח תשובה מחדש במילים שלו?
לא, זהו מודל חילוץ ולא מודל יוצר. הוא יודע רק לסמן את נקודת ההתחלה והסיום של התשובה מתוך הטקסט שסיפקתם לו.
איך מריצים
המודל שוקל 3.2 גיגה בייט ומחזיק 434 מיליון פרמטרים בדיוק של float32, כך שתוכלו להריץ אותו בקלות יחסית על כרטיס מסך בודד ברמה של NVIDIA A10G שעליו הוא גם אומן. מריצים אותו ישירות בעזרת ספריית transformers בפייתון או דרך ספריית haystack שבה הוא משתלב כרכיב קריאה ושליפה.
בגלל הגודל שלו, זמני התגובה יהיו איטיים יותר ממודלי בסיס קטנים של 110 מיליון פרמטרים. אם אין לכם שרת ייעודי עם כרטיס מסך זמין לזמן ריצה, או שאתם צריכים לטפל בנפח פניות נמוך מאוד, עדיף להשתמש בתשתית ענן מנוהלת במקום להחזיק שרת יקר באוויר.
from transformers import pipeline
pipe = pipeline("question-answering", model="deepset/deberta-v3-large-squad2")
print(pipe("שלום"))הקבצים
10 קבצים במאגר, 3.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא cc-by-4.0. המשמעות היא שאתם רשאים להשתמש בו לצרכים מסחריים, לשנות אותו ולהפיץ אותו הלאה בתוך המוצר שלכם. התנאי היחיד הוא מתן קרדיט מתאים ליוצרים, ציון הרישיון וציון אם בוצעו בו שינויים.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס