nli-deberta-v3-base

מה זה

מדובר במודל שמבוסס על DeBERTa-v3 ומיועד להסקת מסקנות בין צמדי משפטים, מה שנקרא NLI. בניגוד למודלי הטבעה רגילים שמחשבים וקטור לכל משפט בנפרד, ארכיטקטורת Cross-Encoder בוחנת את שני המשפטים יחד באותו מעבר. זה הופך אותו למדויק בהרבה בהבנת הקשר עמוק, על חשבון מהירות חישוב.

הוא אומן על המאגרים SNLI ו־MultiNLI ומחזיר שלושה ציונים לכל זוג: האם המשפט השני סותר את הראשון, נובע ממנו, או ניטרלי לגביו. בדיקות הביצועים שלו מציגות דיוק של 92.38 אחוזים בבדיקות SNLI ומעל 90 אחוזים ב־MNLI על סטים שונים. בפועל, המשמעות היא יכולת גבוהה לזהות דקויות לוגיות שרוקנו מודלים ישנים יותר מתוכן, והוא עובד היטב גם במשימות סיווג כלליות שבהן בודקים האם טקסט מסוים שייך לקטגוריה נתונה.

מתאים ל

• סיווג טקסט ללא אימון

  מאפשר לסווג פניות, כותרות או ביקורות לפי רשימת נושאים חופשית בלי לאסוף נתונים מתויגים מראש.

• אימות עובדות ובדיקת סתירות

  מזהה האם תשובה שהופקה במערכת מבוססת תוכן סותרת או תואמת למסמך המקור ששימש כבסיס.

• דירוג מחדש במנועי חיפוש

  משמש שלב שני בחיפוש להשוואת השאילתה מול קומץ התוצאות המובילות לצורך דיוק מקסימלי.

איפה זה נופל

הוא מוגבל לחלון הקשר של 512 טוקנים בלבד, כך שלא תוכלו להזין מסמכים ארוכים בלי לחתוך אותם קודם. בנוסף, המודל אומן באנגלית בלבד. אם תנסו להריץ עליו טקסטים בעברית ללא תרגום מקדים, התוצאות לא יהיו שמישות. שיטת ה־Cross-Encoder גם דורשת חישוב מלא לכל זוג משפטים בנפרד, מה שמונע יצירת אינדקס מראש ויאט את העסק אם תנסו לדרג אלפי מועמדים בו זמנית.

איך מריצים

אתם טוענים אותו ישירות דרך SentenceTransformers או עם ה־Pipeline של Transformers בתוך שורות קוד בודדות. עם כ־184 מיליון פרמטרים, המודל הזה קל יחסית וירוץ בקלות על מעבד גרפי צנוע ואפילו על מעבד רגיל אם אתם מעבדים פריטים בודדים ולא מנות ענק.

משקל הקבצים עומד על כ־5.5 גיגה-בייט, כך שהורדה ראשונית תדרוש קצת נפח, אך הזיכרון הנדרש בזמן ריצה מינימלי. כדאי להריץ אותו לבד אם אתם זקוקים לפרטיות מלאה או שרוצים לחסוך עלויות של קריאות לשירותים חיצוניים בכל סיווג.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("cross-encoder/nli-deberta-v3-base")
v = m.encode(["שלום עולם"])

הקבצים

20 קבצים במאגר, 5.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model_O1.onnx774.4 MB
• onnx/model_O2.onnx774.3 MB
• onnx/model_O3.onnx774.3 MB
• onnx/model.onnx738.6 MB
• pytorch_model.bin737.8 MB
• model.safetensors737.7 MB
• onnx/model_O4.onnx387.5 MB
• onnx/model_qint8_arm64.onnx244.4 MB
• onnx/model_qint8_avx512.onnx244.4 MB
• onnx/model_qint8_avx512_vnni.onnx244.4 MB
• onnx/model_quint8_avx2.onnx244.4 MB
• tokenizer.json8.7 MB
• spm.model2.5 MB
• README.md2.9 KB
• tokenizer_config.json1.3 KB
• .gitattributes1.2 KB
• config.json1.1 KB
• CESoftmaxAccuracyEvaluator_AllNLI-dev_results.csv682 B
• special_tokens_map.json301 B
• added_tokens.json26 B

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד ולהפיץ אותו בתוך מוצרים סגורים. התנאי היחיד הוא שמירה על הודעות זכויות היוצרים והרישיון המקורי בקבצים שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗