ModernBERT-large-zeroshot-v2.0

מה זה

המודל מבוסס על ModernBERT-large ועבר כוונון ייעודי למשימות סיווג בשיטת zero-shot, על בסיס אוסף הנתונים מסדרת v2.0 של Moritz Laurer. הוא מתמודד עם טקסטים באורך של עד 8,192 טוקנים, שזה חריג לטובה בקטגוריית המודלים הקטנים יחסית של סיווג, שבהם נתקעים בדרך כלל בתקרה של 512 טוקנים.

מבחינת ביצועים, היוצר מעיד שהוא מעט פחות מדויק בממוצע לעומת DeBERTa-v3, אבל מציג יתרון משמעותי במהירות ובצריכת הזיכרון. במבחנים שנערכו על גבי כרטיס A100 עם גודל אצווה 32, הוא הגיע לקצב ממוצע של מעל 1,100 טקסטים בשנייה, עם דיוק ממוצע של 0.85 על פני מגוון רחב של מבחני סיווג וזיהוי כוונות.

מתאים ל

• סינון תוכן פוגעני

  הוא מגיע לדיוק של מעל 0.90 בזיהוי קללות, איומים וטוקסיסיטי, ורץ במהירות של מעל אלף פריטים בשנייה.

• ניתוב פניות לקוחות

  סיווג שיחות וכוונות לפי נושאים מוגדרים מראש בלי לאמן מודל ייעודי לכל קטגוריה.

• סיווג מסמכים ארוכים

  הקשר של 8,192 טוקנים מאפשר להזין טקסטים שלמים בלי לחתוך אותם לפסקאות קצרות.

איפה זה נופל

למרות שהוא תומך ב־8,192 טוקנים, תערובת האימון המקורית שלו עדיין לא מנצלת את מלוא החלון הזה, והיוצר עובד על גרסה עתידית שתתקן את זה. בנוסף, יש משימות שבהן הוא מתקשה באופן מובהק. במערך manifesto הוא השיג דיוק של 0.497 בלבד, וב־empathetic הוא עומד על 0.544, כך שהוא לא מתאים לניתוח רגשות עדין או לסיווג פוליטי מורכב בלי בדיקה מקדימה.

איך מריצים

אתם מריצים אותו דרך ספריית transformers בפייתון, והקבצים שלו שוקלים כ־5.1 גיגה-בייט. כדי לקבל את הביצועים המרביים חובה להפעיל bfloat16, מה שנותן לפי הבדיקות הכפלה של מהירות הריצה בהשוואה ל־fp16 ומאפשר להגדיל משמעותית את גודל האצווה. כרטיס מסך מודרני עם לפחות 8 עד 12 גיגה-בייט זיכרון יספיק לריצה מקומית שוטפת.

אם אתם צריכים לסווג כמויות גדולות של פניות או מסמכים ברצף, עדיף להחזיק מופע עצמאי כזה על שרת ייעודי. זה יצא זול ומהיר משמעותית משליחת אלפי קריאות למודלים גנרטיביים דרך API חיצוני.

from transformers import pipeline

pipe = pipeline("text-classification", model="MoritzLaurer/ModernBERT-large-zeroshot-v2.0")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 5.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx1.6 GB
• onnx/model_fp16.onnx792.1 MB
• model.safetensors791.7 MB
• onnx/model_q4.onnx422.2 MB
• onnx/model_bnb4.onnx400.7 MB
• onnx/model_int8.onnx398.1 MB
• onnx/model_quantized.onnx398.1 MB
• onnx/model_uint8.onnx398.1 MB
• onnx/model_q4f16.onnx297.4 MB
• tokenizer.json3.6 MB
• tokenizer_config.json20.8 KB
• training_args.bin5.5 KB
• README.md3.2 KB
• .gitattributes1.5 KB
• config.json1.5 KB
• special_tokens_map.json694 B

הרישיון

רישיון apache-2.0 מאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או מסחרית בתוך מוצר. אתם מחויבים לכלול את הצהרת זכויות היוצרים והרישיון המקורי, בלי חובה לפתוח את הקוד שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗