GPT
B

bart-large-cnn-samsum

קוד פתוח

philschmidmit2022-03-02

  • transformers
  • pytorch
  • bart
  • text2text-generation
  • sagemaker

התאמה ייעודית של מודל סיכום ותיק שנועדה לקחת שיחות צ'אט באנגלית ולהוציא מהן תמצית קריאה. פתרון ממוקד אם אתם מחפשים מודל מקומי קל יחסית למשימה אחת בלבד.

  • 1,024טוקנים בהקשר
  • 6.1 GBמשקל הקבצים
  • 111,036הורדות בחודש
  • 268לייקים

מה זה

הבסיס כאן הוא מודל שתוכנן במקור לסכם כתבות חדשותיות ארוכות, אבל עבר כוונון ייעודי על מאגר של שיחות יומיומיות. במקום לחפש מבנה של פסקאות עיתונאיות, הוא מנסה לתפוס דיאלוגים בין כמה דוברים, להבין מי רצה מה, ולפלוט תקציר ענייני.

במדדי ההערכה הוא קיבל ציון של כארבעים ואחת נקודות במבחן החפיפה של המילים מול סיכומי שיחה שנכתבו בידי אדם. זה אומר שהוא מזהה לא רע את העיקר בשיחות קצרות, אבל הוא עדיין שייך לדור הישן יותר של מודלי שפה ייעודיים למשימה יחידה ולא למודלים רב תכליתיים מודרניים.

מתאים ל

  • סיכום שיחות תמיכה

    הפקת תקציר קצר מתוך דיאלוג בין לקוח לנציג שירות באנגלית.

  • תקצור פגישות צ'אט

    הפיכת חילופי דברים בערוצי טקסט לנקודות עיקריות בתוך מגבלת האורך.

  • עיבוד תעתיקי אודיו

    צמצום שיחות מוקלטות שכבר תומללו לטקסט באנגלית לקריאה מהירה.

איפה זה נופל

הבעיה הגדולה ביותר נמצאת כבר בשורת הפתיחה של היוצר שלו, הוא ממליץ בפירוש לעבור למודל חדש יותר שמשיג תוצאות טובות יותר באותה משימה בדיוק. בנוסף, חלון ההקשר מוגבל לאלף עשרים וארבעה טוקנים בלבד באנגלית. אם השיחה שלכם מתארכת, המודל פשוט יחתוך אותה ולא יראה את הסוף. עברית בכלל לא באה בחשבון כאן.

שאלות
נפוצות

האם כדאי לבחור בו לפרויקט חדש היום?

כנראה שלא. היוצר עצמו ממליץ על חלופה מודרנית יותר מאותה משפחה שמציגה ביצועים טובים יותר, ועדיף לבדוק אותה קודם.

האם המודל יצליח לסכם התכתבויות בעברית?

לא, הוא אומן אך ורק על אנגלית. טקסט בעברית ייצר פלט שגוי או ג'יבריש מוחלט, ואי אפשר להסתמך עליו בלי אימון מחדש.

איך מריצים

טוענים אותו ישירות דרך ספריית הטרנספורמרס בפייתון עם צינור הסיכום הרגיל. הקבצים שוקלים קצת יותר משישה גיגהבייט, כך שתצטרכו כרטיס גרפי סביר עם לפחות שמונה גיגה זיכרון כדי לקבל זמני תגובה שמתאימים למוצר חי.

אם כל מה שאתם צריכים זה לסכם פניות שירות פעם בכמה דקות, אפשר להריץ אותו גם על מעבד בלי לשבור את הראש. למי שאין לו כוונה לתחזק שרת עצמאי או להתמודד עם זיכרון גרפי, קריאה לשירות ענן מנוהל תהיה פשוטה בהרבה.

from transformers import pipeline

pipe = pipeline("summarization", model="philschmid/bart-large-cnn-samsum")
print(pipe("שלום"))

הרישיון

הפרויקט מופץ תחת רישיון MIT. המשמעות פשוטה מאוד, אתם רשאים לקחת את המשקלים, להטמיע אותם במוצר מסחרי, לשנות את הקוד ולהריץ הכל בכל תשתית שתבחרו בלי לשלם תמלוגים, כל עוד אתם משאירים את הצהרת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗