GPT
D

deberta-v3-base-absa-v1.1

קוד פתוח

yanghengmit2022-03-18

  • transformers
  • pytorch
  • safetensors
  • deberta-v2
  • text-classification

במקום להפעיל מודל ענק רק כדי לדעת מה הלקוח חשב על השירות, המודל הזה מחשב סנטימנט ביחס להיבט ספציפי במשפט. הוא שוקל 1.4 גיגהבייט ורץ בלי כרטיס גרפי כבד.

  • 184Mפרמטרים
  • 512טוקנים בהקשר
  • 1.4 GBמשקל הקבצים
  • 90,123הורדות בחודש

מה זה

המודל מיועד לניתוח סנטימנט מבוסס היבט, כלומר ABSA. במקום לתת ציון כללי לטקסט שלם, מעבירים לו משפט יחד עם מילת מטרה, והוא מסווג את היחס אליה לחיובי, שלילי או נייטרלי. אם לקוח כותב שהאוכל היה מדהים אבל השירות היה איטי, סיווג רגיל יתבלבל, אבל כאן אפשר לתשאל בנפרד על האוכל ובנפרד על השירות.

הבסיס הוא DeBERTa-v3-base שעבר אימון ייעודי במסגרת PyABSA על קורפוס של מעל 30,000 דוגמאות ייחודיות שהורחבו ל־180,000, מתוך מערכי נתונים מוכרים כמו SemEval ו־MAMS. הוא משתמש בארכיטקטורת FAST-LCF שמתמקדת במילים הסמוכות להיבט המבוקש במקום להתפזר על כל המשפט, מה שנותן דיוק גבוה במשימה מוגדרת מאוד בלי להחזיק מודל שפה גנרטיבי.

מתאים ל

  • ניתוח חוות דעת על מוצרים

    פירוק ביקורות מרובות לחלקים כדי למדוד בנפרד את שביעות הרצון מהסוללה, המסך או המחיר.

  • ניתוב פניות תמיכה

    זיהוי כעס של לקוח על נושא מוגדר כמו זמני משלוח או חיוב שגוי, לצורך תעדוף מהיר.

  • ניטור מותגים ברשת

    מעקב אחרי אזכורים של תכונות ספציפיות במוצר ברשתות חברתיות באנגלית, ערבית או שפות נתמכות אחרות.

איפה זה נופל

החיסרון המרכזי למשתמש בארץ הוא היעדר תמיכה בעברית. רשימת השפות כוללת אנגלית, ערבית, סינית, הולנדית, צרפתית, רוסית, ספרדית וטורקית, אך עברית לא נכללת בה ולא אומנה במודל. בנוסף, חלון ההקשר מוגבל ל־512 טוקנים, כך שהוא לא בנוי למסמכים ארוכים אלא לפסקאות וביקורות קצרות. צריך גם לזכור שהמודל רק מסווג סנטימנט להיבט קיים, ואם רוצים לאתר את ההיבטים לבד מתוך טקסט גולמי יש צורך בכלים נוספים.

שאלות
נפוצות

האם המודל יודע לנתח טקסטים בעברית?

המודל לא אומן על עברית ולא מוגדר לתמוך בה. השפות הנתמכות הן אנגלית, ערבית, סינית, הולנדית, צרפתית, רוסית, ספרדית וטורקית. אם תנסו להריץ עליו עברית, התוצאות לא יהיו אמינות.

האם אני מקבל את ההיבטים עצמם מתוך המשפט באופן אוטומטי?

לא דרך המודל הבודד הזה בתוך transformers. המודל דורש מכם לספק גם את המשפט וגם את ההיבט שאותו רוצים לבדוק. כדי לחלץ היבטים באופן אוטומטי מקצה לקצה, צריך להשתמש בספריית PyABSA שמחברת שלב של חילוץ לפני הסיווג.

איך מריצים

טוענים אותו ישירות דרך הספרייה transformers באמצעות pipeline של סיווג טקסט, ומעבירים את המשפט יחד עם text_pair שמכיל את ההיבט לבדיקה. מי שצריך לחלץ את ההיבטים עצמם מתוך הטקסט באופן אוטומטי ולא רק לסווג אותם, יכול לעבוד ישירות עם ספריית PyABSA שמטפלת בכל השרשרת מקצה לקצה.

המשקל שלו הוא 1.4 גיגהבייט עם 184 מיליון פרמטרים ו־12 שכבות, מה שאומר שהוא עולה בלי בעיה לזיכרון של כל שרת פשוט ואפילו על מעבד רגיל. אין שום סיבה לשלם לפי קריאה ל־API חיצוני או להחזיק GPU ייעודי ויקר, כי עלות ההרצה העצמית כאן נמוכה במיוחד.

from transformers import pipeline

pipe = pipeline("text-classification", model="yangheng/deberta-v3-base-absa-v1.1")
print(pipe("שלום"))

הרישיון

הרישיון הוא MIT, מה שאומר חופש פעולה מלא. מותר להשתמש בו במוצרים מסחריים, לשנות את הקוד ולהפיץ אותו בלי לשלם תמלוגים, כשהדרישה היחידה היא שמירת הודעת זכויות היוצרים של המפתח המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗