GPT
הוספת כלי
D

distilbert-base-uncased-finetuned-sst-2-english

קוד פתוח

distilbertapache-2.02022-03-02

  • transformers
  • pytorch
  • tf
  • rust
  • onnx

זה מודל קל לסיווג סנטימנט באנגלית, ששוקל מעט ועובד מהר. הוא מתאים למי שחייב תיוג חיובי או שלילי בתוך השרת בלי לשלם על API חיצוני.

  • 67Mפרמטרים
  • 512טוקנים בהקשר
  • 1.2 GBמשקל הקבצים
  • 3,852,454הורדות בחודש

מה זה

מדובר בגרסה מזוקקת של ברט שעברה אימון ייעודי על מאגר SST-2 כדי לקבוע אם משפט באנגלית הוא חיובי או שלילי. עם כמעט שישים ושבעה מיליון פרמטרים, הוא שומר על רוב היכולת של המקור הכבד ממנו תוך צריכת משאבים נמוכה בהרבה.

במדדי הדיוק על סט הבדיקה הוא מגיע ל־91.3 אחוזים, לעומת 92.7 אחוזים בגרסת הבסיס הרגילה של ברט. הפער הזה של אחוז ומחצה זניח ברוב המקרים האמיתיים, במיוחד כשמקבלים בתמורה זמני תגובה מהירים מאוד וקובץ ששוקל מעט מעל ג׳יגה אחד בלבד.

מתאים ל

  • סינון ביקורות מוצר באנגלית

    הוא מזהה מיד אם ביקורת חיובית או שלילית, בדיוק המטרה שלשמה אומן על SST-2.

  • מיון טיקטים של תמיכה

    מאפשר לתעדף פניות של לקוחות עצבניים לפי רמת הסנטימנט השלילי של ההודעה הראשונה.

  • ניתוח תגובות ברשתות

    משקל קל וריצה מהירה על מעבד שמאפשרים לסרוק כמויות גדולות של טקסטים קצרים בזול.

איפה זה נופל

הוא עובד באנגלית בלבד ורגיש מאוד להטיות גאוגרפיות ודמוגרפיות. היוצרים שלו מציינים במפורש שמשפטים זהים לחלוטין על צילום סרט יקבלו סנטימנט חיובי של 0.89 עבור צרפת, אבל יתרסקו לציון של 0.08 אם מוזכרת אפגניסטן. נוסף לכך, האימון הוגבל לאורך רצף של 128 טוקנים, כך שטקסטים ארוכים במיוחד או ניתוח של פסקאות מורכבות עלולים להתפספס לחלוטין.

שאלות
נפוצות

האם הוא מבין עברית?

לא, המודל הזה אומן על טקסטים באנגלית בלבד. אם תזינו לו עברית תקבלו תוצאות חסרות משמעות, ועדיף לחפש מודל רב לשוני או כזה שעבר אימון ייעודי לעברית.

האם הוא מתאים לטקסטים ארוכים כמו מאמרים שלמים?

לא ממש. למרות שארכיטקטורת הבסיס מאפשרת חלון של 512 טוקנים, האימון הספציפי שלו התבצע עם אורך מקסימלי של 128 טוקנים, ולכן הוא הכי מדויק על משפטים בודדים או פסקאות קצרות.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בפייתון עם DistilBertForSequenceClassification. הגודל שלו צנוע מאוד, כך שאפשר להריץ אותו בלי שום בעיה על מעבד רגיל בכל שרת ענן פשוט, ואפילו על מחשב נייד ישן בלי מאיץ גרפי ייעודי.

אין שום סיבה אמיתית לשלם על שירות חיצוני לסיווג טקסט כשרוצים סנטימנט בסיסי באנגלית. תרימו אותו בקונטיינר מקומי קטן ותחסכו עלויות קריאה ורשת, אלא אם אין לכם בכלל שרת ומדובר בסקריפט חד פעמי.

from transformers import pipeline

pipe = pipeline("text-classification", model="distilbert/distilbert-base-uncased-finetuned-sst-2-english")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 1.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, וזה אומר חופש מוחלט. אפשר לקחת אותו, לשנות, להטמיע בתוך מוצר מסחרי סגור או להרים בשרת של החברה בלי לשלם תמלוגים, כל עוד שומרים על הצהרת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗