GPT
הוספת כלי
L

led-base-book-summary

קוד פתוח

pszemrajapache-2.0,bsd-3-clause2022-03-02

  • transformers
  • pytorch
  • safetensors
  • led
  • text2text-generation

מתאים למי שחייב לסכם מסמכים ארוכים באנגלית על חומרה ביתית פשוטה. הוא קטן, שוקל מעט, ומבוסס על ארכיטקטורה שמיועדת לטקסטים של אלפי מילים בלי לקרוס.

  • 162Mפרמטרים
  • 1.2 GBמשקל הקבצים
  • 1,931הורדות בחודש
  • 67לייקים

מה זה

מדובר במודל סיכום טקסט המבוסס על ארכיטקטורת LED, שנועדה להתמודד עם מסמכים ארוכים באמצעות מנגנון קשב מקומי ויעיל. הוא אומן על נתוני BookSum, שכוללים סיכומי ספרים ופרקים שלמים. המודל שוקל 1.2 גיגה בייט בלבד עם כ־162 מיליון פרמטרים, גודל צנוע מאוד שמאפשר להריץ אותו כמעט בכל סביבה מקומית.

במבחני ROUGE על מאגרי טקסט ארוכים הוא מציג תוצאות שנעות בין 30 ל־36 ב־ROUGE-1, אבל ציוני ה־ROUGE-2 שלו נמוכים למדי, סביב 5 עד 15. המשמעות בפועל היא שהוא קולט את התמות המרכזיות ונושא הטקסט, אך לא בהכרח משחזר במדויק ביטויים ספציפיים או רצפי מילים מהמקור.

מתאים ל

  • סיכום פרקים בספרים

    הוא אומן על BookSum ומיועד בדיוק להבנת קווי עלילה ארוכים בטקסט סיפורי.

  • סקירת מאמרים ארוכים

    מנגנון ה־LED מאפשר לו לקלוט טקסטים ארוכים שהיו נחתכים במודלים רגילים.

  • עיבוד תמלילים מקומי

    המשקל הקל מאפשר להריץ אותו אופליין בתוך יישום שולחני ללא עלויות ענן.

איפה זה נופל

המודל אומן על סיכומי ספרות ונרטיב, ולכן הוא מתקשה להישאר מדויק בטקסטים טכניים, מסמכים משפטיים או דוחות פיננסיים שדורשים אפס הזיות. בנוסף, הציונים הנמוכים שלו בהתאמת צמדי מילים מעידים על נטייה לאבד פרטים עובדתיים קטנים או לנסח מחדש בצורה חופשית מדי. הוא לא מיועד לעברית, אלא לאנגלית בלבד.

שאלות
נפוצות

האם המודל יודע לסכם טקסטים בעברית?

לא. המודל אומן על מאגרי מידע באנגלית בלבד. אם תזינו לו עברית, תקבלו פלט שבור או חסר משמעות לחלוטין.

האם אני חייב כרטיס מסך כדי להשתמש בו?

לא חובה. הוא שוקל 1.2 גיגה בייט בלבד ומכיל 162 מיליון פרמטרים, ולכן מעבד מודרני ממוצע יכול להריץ אותו בקצב סביר.

איך מריצים

אתם מושכים את המשקלים מספריית transformers דרך פייתון ומריצים אותו ישירות על מעבד מקומי או כרטיס מסך בסיסי. בגלל גודלו, 162 מיליון פרמטרים בלבד, הוא לא דורש שרת ענן ייעודי או כרטיסי A100 יקרים, וזיכרון עבודה סטנדרטי של מחשב פיתוח יספיק לרוב המשימות.

אם יש לכם כמות קטנה של מסמכים ואין לכם תשתית שרתים פעילה, עדיף להריץ אותו מקומית. שירותי API חיצוניים יהיו רלוונטיים רק אם אתם צריכים לטפל באלפי קריאות בו זמנית ואין לכם כוח לנהל תורי עיבוד בעצמכם.

from transformers import pipeline

pipe = pipeline("summarization", model="pszemraj/led-base-book-summary")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 1.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא פורסם ברישוי כפול של Apache 2.0 ו־BSD 3-Clause. שניהם רישיונות קוד פתוח מתירניים מאוד, כך שמותר לכם להשתמש בו במוצרים מסחריים, לשנות את הקוד ולהפיץ אותו, כל עוד אתם שומרים על הודעות זכויות היוצרים המקוריות.

הרישיון המלא בעמוד המודל ↗