GPT
הוספת כלי
B

bart-large-xsum

קוד פתוח

facebookmit2022-03-02

  • transformers
  • pytorch
  • tf
  • jax
  • rust

מודל ותיק של פייסבוק שמייצר תקציר של משפט בודד מתוך טקסט ארוך. הוא מיועד למי שמחפש סיכום אגרסיבי ומהיר באנגלית בלי להחזיק מודלי ענק.

  • 1,024טוקנים בהקשר
  • 6.4 GBמשקל הקבצים
  • 8,760הורדות בחודש
  • 37לייקים

מה זה

מדובר בגרסת BART בעלת 12 שכבות שעברה כוונון על דאטה סט בשם XSum, שבו כל דוגמה היא כתבה חדשותית עם תקציר של שורה אחת בלבד. הארכיטקטורה כאן מבוססת על BartForConditionalGeneration, כלומר מודל שמייצר טקסט חדש בעצמו ולא רק דולה משפטים קיימים מתוך המקור.

בכרטיס מדווח ציון ROUGE מעל 22 במבחן XSum. המספר הזה מלמד שהוא יודע לייצר ניסוחים עצמאיים שתופסים את הרעיון המרכזי של הטקסט, אבל התוצאה תמיד תהיה תמציתית מאוד. מי שמחפש תקציר מפורט של כמה פסקאות יקבל כאן משהו קצר מדי שלא מתאים לדרישות שלו.

מתאים ל

  • יצירת כותרות למאמרים

    מייצר משפט תמציתי באנגלית שתופס את לב המאמר ומתאים לכותרת ראשית או טיזר.

  • תקצירי פוש לנייד

    מזקק כתבות ארוכות לשורה אחת שמתאימה בדיוק לגודל של התראת מסך בטלפון.

  • תצוגה מקדימה לאימיילים

    גוזר שורת סיכום קצרה ממיילים ארוכים באנגלית כדי להציג אותה ברשימת הדואר הנכנס.

איפה זה נופל

חלון ההקשר מוגבל ל־1,024 טוקנים בלבד, כך שאי אפשר להזין מסמכים ארוכים, ספרים או דוחות עמוסי מלל בלי לחתוך אותם קודם. בנוסף, המודל מאומן על אנגלית בלבד. אם תזינו לו עברית, הוא ייכשל לגמרי. בגלל אופי הדאטה סט XSum, הוא לפעמים ממציא עובדות שלא הופיעו בטקסט כדי לנסח משפט קליט, וזה דורש בדיקה קפדנית לפני שילוב שלו במערכת אמיתית.

שאלות
נפוצות

האם המודל תומך בטקסטים בעברית?

לא. המודל הוגדר ואומן עבור השפה האנגלית בלבד. הרצה של טקסט בעברית תניב פלט משובש לחלוטין או ג'יבריש.

האם אפשר לסכם איתו מסמכים של עשרות עמודים?

לא ישירות. המגבלה שלו היא 1,024 טוקנים לכל קלט, שזה בערך עמוד טקסט בודד, ולכן תצטרכו לפצל את המידע לחלקים קטנים מראש.

איך מריצים

כדי להריץ אותו מייבאים את BartForConditionalGeneration מתוך transformers. הקבצים שוקלים 6.4 גיגה בייט, כך שצריך כרטיס מסך עם לפחות שמונה עד עשרה גיגה זיכרון כדי להריץ היקשים בצורה יציבה ובלי נפילות זיכרון.

אם השרת שלכם חלש או שאין לכם כרטיס ייעודי, בכרטיס המודל מציעים לחפש גרסאות distilbart שדורשות פחות משאבים. כשמדובר בכמויות קטנות של טקסטים או בפרויקט צדדי, קריאה ל־API חיצוני תחסוך לכם תחזוקה של שרת עם כרטיס מסך יקר.

from transformers import pipeline

pipe = pipeline("summarization", model="facebook/bart-large-xsum")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 6.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא מופץ תחת רישיון MIT. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להריץ אותו בענן פרטי ולשלב אותו במוצר סגור, בלי לשלם תמלוגים לפייסבוק. התנאי היחיד הוא שמירת הודעת זכויות היוצרים של המקור בתוך הקוד או ההפצה שלכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗