GPT
הוספת כלי
L

led-large-book-summary

קוד פתוח

pszemrajapache-2.0,bsd-3-clause2022-03-02

  • transformers
  • pytorch
  • safetensors
  • led
  • text2text-generation

אימון ייעודי של ארכיטקטורת LED שמיועד לתמצות פרקים וספרים שלמים באנגלית. הוא פותר את בעיית הזיכרון של טקסטים ארוכים במודל קומפקטי יחסית.

  • 460Mפרמטרים
  • 3.4 GBמשקל הקבצים
  • 4,774הורדות בחודש
  • 121לייקים

מה זה

מדובר במודל שמבוסס על ארכיטקטורת Longformer Encoder-Decoder עם כמעט 460 מיליון פרמטרים, שנועד ישירות למשימת תמצות של מסמכים ארוכים מאוד. בזמן שמודלים רגילים באותו סדר גודל נחנקים כשמזינים להם יותר מכמה פסקאות, הארכיטקטורה הזו נבנתה במיוחד כדי להתמודד עם רצפי טקסט גדולים של ספרים או מאמרים עמוקים באנגלית.

בגלל שהוא עבר כוונון ייעודי לתקצירי ספרים, הוא מחפש קווי עלילה ורעיונות מרכזיים ולא רק סוחט משפטים בודדים כמו מודלים כלליים. אם אתם צריכים לסכם טקסטים קצרים או לחלץ נתונים טכניים יבשים, הוא לא ייתן לכם יתרון על פני מודל קטן וסטנדרטי, אבל בטקסט רציף וארוך באנגלית הוא עושה סדר בצורה ממוקדת.

מתאים ל

  • סיכום פרקים שלמים בספרים

    הוא אומן על ספרים ויודע לתפוס מהלכים עלילתיים ארוכים באנגלית בלי לאבד את ההקשר.

  • תמצות מאמרים אקדמיים עבים

    מתאים לניתוח טקסטים עיוניים ארוכים שחורגים ממגבלת הזיכרון של מודלי שפה סטנדרטיים.

  • יצירת תקצירי תמלילים

    מספק עיבוד יעיל של שיחות או פודקאסטים באנגלית שנפרסים על פני שעות הקלטה.

איפה זה נופל

המודל תומך באנגלית בלבד, כך שטקסטים בעברית פשוט לא יעבדו איתו. בנוסף, מדובר במודל שפורסם בתחילת 2022, והוא מועד להזיות או לאיבוד פרטים עדינים אם מנסים לתמצת מסמכים משפטיים או טכניים שלא דומים למבנה של ספר. חובה לבדוק את התקצירים ידנית לפני שסומכים עליהם.

שאלות
נפוצות

האם אפשר להשתמש בו לטקסטים בעברית?

לא. המודל מאומן על אנגלית בלבד ולא יפיק תוצאות שמישות בעברית. לטקסט מקומי תצטרכו לתרגם מראש לאנגלית או לחפש מודל עם תמיכה רב-לשונית.

מה דרוש כדי להרים אותו על שרת עצמאי?

הקבצים שוקלים 3.4 גיגה-בייט ומשתמשים ב־float32, לכן מומלץ שרת עם GPU ייעודי שמחזיק לפחות 8 עד 12 גיגה זיכרון כדי לא לקבל שגיאות זיכרון בזמן עיבוד טקסטים ארוכים.

איך מריצים

כדי להריץ אותו דרך ספריית transformers תצטרכו להוריד קבצים במשקל כולל של כ־3.4 גיגה-בייט, ומכיוון שהמשקלים מגיעים ב־float32, כדאי לטעון אותו עם GPU סביר שיש לו לפחות 8 עד 12 גיגה זיכרון וידאו, במיוחד אם מנצלים את מלוא אורך ההקשר.

אפשר להריץ אותו גם על מעבד רגיל, אבל התהליך יהיה איטי מאוד על טקסטים באורך של ספר. אם אתם לא מחזיקים שרת ייעודי או כרטיס גרפי מתאים לפיתוח, הרצה ישירה דרך מחברת ענן או פנייה למודל מסחרי גדול ב־API תחסוך לכם התעסקות עם זמני ריצה ארוכים.

from transformers import pipeline

pipe = pipeline("summarization", model="pszemraj/led-large-book-summary")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 3.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מפורסם תחת שילוב של רישיונות Apache 2.0 ו־BSD 3-Clause. שניהם רישיונות קוד פתוח מתירניים מאוד שמאפשרים שימוש מסחרי, שינוי של הקוד והפצה של המודל בתוך מוצרים, בתנאי ששומרים על הצהרות זכויות היוצרים ותנאי הפטור מאחריות המקוריים.

הרישיון המלא בעמוד המודל ↗