GPT
R

rubert-tiny2-cedr-emotion-detection

קוד פתוח

cointegratedרישיון לא דווח2022-03-02

  • transformers
  • pytorch
  • safetensors
  • bert
  • text-classification

סיווג רגשות מרובים בטקסטים ברוסית עם משקל אפסי של 226 מגה בייט. מתאים למי שחייב תיוג מהיר וזול של תחושות בלי לתחזק שרתים כבדים.

  • 29Mפרמטרים
  • 2,048טוקנים בהקשר
  • 226 MBמשקל הקבצים
  • 9,755הורדות בחודש

מה זה

מדובר במודל זעיר עם 29 מיליון פרמטרים בלבד ושלוש שכבות, שעבר כוונון עדין על בסיס נתונים בשם CEDR לזיהוי רגשות במשפטים ברוסית. הוא עובד במתכונת של סיווג רב־תווית, מה שאומר שמשפט אחד יכול לקבל בו זמנית שמחה ופחד, או חוסר רגש מוחלט לצד תוויות אחרות.

מבחינת ביצועים, הוא מצטיין בזיהוי שמחה ועצב עם ציוני AUC מעל 0.95 ודיוק מאקרו יציב. לעומת זאת, עם כעס הוא מתקשה באופן מורגש, עם ציון AUC של 0.7511 ומאקרו F1 של 0.6820. הממוצע הכללי שלו סביר למדי לגודל כזה, אבל הפער בין הרגשות השונים בולט מאוד.

מתאים ל

  • סינון פידבקים ברוסית

    זיהוי משובים חיוביים או עצובים של משתמשים בזמן אמת, בלי להעמיס על התשתית.

  • ניתוח תגובות ברשת

    קריאת כמויות גדולות של טקסט ופילוח לפי תחושות, עם מינימום דרישות זיכרון על מעבד רגיל.

  • ניתוב פניות תמיכה

    איתור הודעות טעונות רגשית מלקוחות דוברי רוסית והפניה שלהן לטיפול דחוף.

איפה זה נופל

הבעיה הבולטת ביותר היא זיהוי כעס, שקיבל תוצאות נמוכות משמעותית משאר הרגשות, כך שאם אתם בונים מערכת לזיהוי זעם של לקוחות ברוסית, הוא יפספס לא מעט. בנוסף, הוא אומן על רוסית בלבד ולא יזהה שום דבר בעברית או באנגלית, ואי אפשר להסתמך עליו לטקסט מעורב. לפני שמכניסים אותו לפרודקשן, כדאי לכייל ספים ידנית עבור כל רגש בנפרד, בגלל האופי הרב־תוויתי וההבדלים בדיוק בין הקטגוריות.

שאלות
נפוצות

האם המודל תומך בטקסטים בעברית או באנגלית?

לא. המודל אומן על בסיס נתונים ייעודי למשפטים ברוסית ומתאים אך ורק לשפה הזו. הזנת טקסט בעברית תניב תוצאות חסרות משמעות לחלוטין.

האם אפשר להריץ אותו בלי GPU בכלל?

כן, לחלוטין. הוא כולל 29 מיליון פרמטרים ושלוש שכבות בלבד, כך שמעבד רגיל יריץ סיווג תוך מילישניות בודדות ללא שום קושי.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בגרסת BertForSequenceClassification. עם משקל של 226 מגה בייט בדיוק float32, אין שום צורך בכרטיס מסך ייעודי, הוא ירוץ במהירות גם על מעבד רגיל של שרת פשוט או במחשב מקומי ישן.

אין פה גרסאות שונות לבחור ביניהן, מקבלים משקלים מאומנים מראש של שלוש שכבות בלבד. אם המוצר שלכם מעבד נפחי ענק של טקסט ברוסית בזמן אמת, הרצה עצמית שלו תהיה זולה ופשוטה משמעותית מתשלום לפי קריאה ל־API חיצוני מסחרי.

from transformers import pipeline

pipe = pipeline("text-classification", model="cointegrated/rubert-tiny2-cedr-emotion-detection")
print(pipe("שלום"))

הרישיון

היוצר לא דיווח על רישיון בעמוד המודל. מבחינה משפטית, היעדר רישיון מוגדר אומר שאין לכם הרשאה מפורשת להשתמש במשקלים, להפיץ אותם או להטמיע אותם במוצר מסחרי. לפני שמשלבים אותו במערכת עסקית, אתם לוקחים כאן סיכון של זכויות יוצרים עד שיוסדר רישיון פתוח רשמי.

הרישיון המלא בעמוד המודל ↗