GPT
הוספת כלי
M

MEETING_SUMMARY

קוד פתוח

knkarthickapache-2.02022-03-02

  • transformers
  • pytorch
  • tf
  • safetensors
  • bart

המודל הזה מיועד לתמצות שיחות ופגישות קצרות באנגלית. הוא מבוסס על BART ועבר אימון ייעודי על מאגרי שיחות כדי לחלץ עיקר מדיאלוגים.

  • 406Mפרמטרים
  • 1,024טוקנים בהקשר
  • 4.5 GBמשקל הקבצים
  • 33,845הורדות בחודש

מה זה

במקום לתמצת מאמרים או ידיעות חדשותיות, המטרה כאן היא לטפל בשיחות מרובות דוברים. הבסיס הוא bart-large-xsum של פייסבוק, שעבר כוונון עדין על ארבעה מאגרי נתונים: AMI Meeting Corpus, SAMSUM, DIALOGSUM ו־XSUM. השילוב הזה מכוון ישירות לפענוח מבנה של דיאלוג, שבו רעיונות מפוזרים בין משפטים מקוטעים של אנשים שונים.

עם 406,340,696 פרמטרים ומשקל קבצים של 4.5 GB, הוא שייך לדור הוותיק יותר של מודלי שפה מסוג seq2seq. הוא לא מנסה לייצר שיחה או לענות על שאלות כלליות, אלא לקחת טקסט נתון באנגלית ולהוציא ממנו תקציר מרוכז. אין בכרטיס המודל ציוני מדדים רשמיים כמו ROUGE, כך שאי אפשר להשוות אותו ישירות על הנייר למודלים מקבילים.

מתאים ל

  • תקצור מקטעי פגישות

    מתאים לתמלולים קצרים באנגלית שלא עוברים 1,024 טוקנים, בזכות האימון על AMI ו־DIALOGSUM.

  • עיבוד תכתובות צ׳אט

    אימון המודל על SAMSUM מאפשר לו לחלץ החלטות ונושאים מרכזיים מתוך שיחות טקסט קצרות.

  • מערכות עיבוד פנימיות

    רישיון apache-2.0 והרצה מקומית מאפשרים תמצות ללא שליחת מידע רגיש לשרתי צד שלישי.

איפה זה נופל

המגבלה הכי קשה היא חלון ההקשר, שעומד על 1,024 טוקנים בלבד. פגישה אמיתית ממוצעת עוברת את האורך הזה תוך כמה דקות של דיבור, מה שאומר שאי אפשר לזרוק לתוכו תמלול מלא של שיחה ארוכה בלי לחתוך ולפרק אותו מראש לחלקים קטנים. מעבר לזה, המודל מאומן על אנגלית בלבד (en) ולא מתאים לעברית. בנוסף, בדוגמת השימוש בכרטיס המודל הודבק טקסט היסטורי על עיר ולא תמלול שיחה, כך שאין הוכחה מתועדת לאיכות התוצרים בדיאלוג מורכב.

שאלות
נפוצות

האם המודל תומך בתמצות תמלילים בעברית?

לא. המודל מוגדר ומאומן לשפה האנגלית בלבד, ואינו מתאים לשפות אחרות.

איך אפשר לתמצת פגישה של שעה עם חלון הקשר של 1,024 טוקנים?

אי אפשר להזין את כולה בבת אחת. תצטרכו לפצל את התמליל למקטעים קצרים, לתמצת כל מקטע בנפרד, ובמידת הצורך לתמצת שוב את התוצאות.

מה נדרש כדי להריץ את המודל עצמאית?

סביבת פייתון עם ספריית transformers וכ־4.5 GB זיכרון פנוי לטעינת המשקלים, רצוי על גבי GPU.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בפייתון עם פקודת צינור פשוטה למשימת summarization ומזהה המודל. הקבצים מגיעים בדיוק של float32 ושוקלים 4.5 GB, כך שצריך כרטיס מסך עם זיכרון ייעודי סביר כדי לעבוד במהירות טובה, אם כי אפשר להריץ אותו גם על מעבד רגיל כשזמני התגובה פחות דחופים.

אם אתם צריכים תמצות מקומי מטעמי פרטיות ואינכם רוצים להוציא מידע החוצה, הרצה עצמית כאן הגיונית מאוד. אם אין לכם שרת זמין והטקסטים ארוכים, כדאי לשקול שירות חיצוני מרוחק במקום להחזיק תשתית בשביל מודל ייעודי יחיד.

from transformers import pipeline

pipe = pipeline("summarization", model="knkarthick/MEETING_SUMMARY")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 4.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, וזה אומר חופש פעולה רחב. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, לארח אותו בשרתים שלכם ולשלב אותו במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗