GPT
D

distilroberta-finetuned-financial-news-sentiment-analysis

קוד פתוח

mrm8488apache-2.02022-03-02

  • transformers
  • pytorch
  • tensorboard
  • safetensors
  • roberta

גרסה מזוקקת של רוברטה לסיווג סנטימנט בחדשות פיננסיות. פתרון קל ומהיר שמספק דיוק גבוה בלי לסחוב משקל עודף של מודלי ענק.

  • 82Mפרמטרים
  • 514טוקנים בהקשר
  • 629 MBמשקל הקבצים
  • 342,916הורדות בחודש

מה זה

מדובר בהתאמה של distilroberta-base על גבי מאגר financial_phrasebank, שכולל משפטים מחדשות כלכליות באנגלית שסווגו על ידי מתייגים אנושיים. המודל שומר על רגישות לאותיות גדולות וקטנות, תכונה קריטית לזיהוי שמות חברות וסימולי מניות. עם 82 מיליון פרמטרים ושישה שכבות, הוא תוכנן לפעול במהירות כפולה מדגם הבסיס המקורי.

בבדיקות ההערכה המודל הגיע לרמת דיוק של 98.23 אחוזים עם loss של 0.1116 אחרי ארבעה מחזורי אימון. בפועל זה אומר שהוא מזהה היטב את הטון של כותרות ודיווחים פיננסיים קצרים, בלי לבלבל בין דיווח עובדתי לנטייה חיובית או שלילית.

מתאים ל

  • סיווג כותרות כלכליות

    זיהוי מהיר של סנטימנט בדיווחי חדשות שוטפים באנגלית, כמעט בלי שימוש במשאבים.

  • סינון עדכוני שוק למסחר

    עיבוד מקומי של מבזקים בזמן אמת בלי לייצר תלות בחיבור לשרתים חיצוניים.

  • ניתוח הודעות לעיתונות

    קריאה של פסקאות קצרות מחברות ציבוריות לקבלת אינדיקציה מיידית על אופי הדיווח.

איפה זה נופל

האימון נעשה על 4,840 משפטים בלבד מתוך מאגר חדשות, כולם באנגלית. אם תזרקו עליו טקסטים בעברית, דוחות כספיים מלאים או מסמכים ארוכים שחורגים מ־514 טוקנים, הוא לא ידע מה לעשות איתם. בנוסף, חומר האימון נשען על מבנה תחבירי של חדשות רשמיות, ולכן הוא צפוי להתקשות בסלנג של רשתות חברתיות או בדיונים מפורומים כלכליים.

שאלות
נפוצות

האם המודל תומך בטקסטים בעברית?

לא. המודל אומן על טקסטים באנגלית בלבד ומבוסס על מילון מונחים באנגלית. כל ניסיון להזין לו עברית יניב תוצאות שגויות לחלוטין.

האם כדאי להשתמש בו לניתוח דוחות כספיים מלאים?

לא הייתי ממליץ על זה. חלון ההקשר מוגבל ל־514 טוקנים והאימון התבצע על משפטים בודדים מתוך חדשות, לא על שפה חשבונאית מורכבת של מסמכים ארוכים.

איך מריצים

בזכות משקל של 629 מגה-בייט בלבד, לא צריך כרטיסי מסך יקרים בשביל להריץ אותו. אפשר להעלות אותו ישירות בספריית transformers על מעבד רגיל בשרת פשוט, או לדחוף אותו לתהליך עבודה קיים בקונטיינר קטן בלי להרגיש פגיעה בזיכרון.

הקריאה ל־API חיצוני פשוט מיותרת כאן. התקורות של רשת ותשלום לפי קריאה לא שוות את זה כשאפשר להחזיק מודל כזה מקומית, לעבד אלפי משפטים בשניות, ולשמור על המידע בתוך התשתית שלכם.

from transformers import pipeline

pipe = pipeline("text-classification", model="mrm8488/distilroberta-finetuned-financial-news-sentiment-analysis")
print(pipe("שלום"))

הרישיון

רישיון apache-2.0 מאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה חופשית בתוך מוצרים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים הרלוונטיים, בלי דרישה לפתוח את הקוד שלכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗