deberta-small-long-nli
קוד פתוחtasksourceapache-2.02024-01-31
מודל קטן לסיווג טקסטים והסקה לוגית שמסוגל לעבד עד 1,680 טוקנים. הוא פתרון יעיל למי שצריך תיוג אפס דגימות לטקסטים ארוכים בלי להרים תשתית כבדה.
- 142Mפרמטרים
- 1,680טוקנים בהקשר
- 1.1 GBמשקל הקבצים
- 10,440הורדות בחודש
מה זה
מדובר בהתאמה של דברטה סמול שאומנה על 600 משימות שונות ממאגר טאסקסורס, כולל נתוני לוגיקה, העדפות אנושיות ואימות עובדות. הייחוד העיקרי מול מודלים דומים בגודל הזה הוא הדגש על טקסטים ארוכים, מה שמאפשר לו לנתח מסמכים שלמים במקום רק פסקאות בודדות של 512 טוקנים.
במבחני ביצועים הוא מציג תוצאות מעורבות שתואמות את הגודל שלו. במשימות זיהוי עובדות כמו פיבר ובסיווג מסמכים ארוכים הוא מגיע לאזור 72 עד 75 אחוזי דיוק, שזה נתון חזק לקטגוריה. לעומת זאת, במשימות היגיון פורמלי קשות כמו פוליו או קלאדר הוא נע סביב 47 עד 53 אחוזים, קרוב לניחוש, כך שלא כדאי לבנות עליו ללוגיקה מתמטית סבוכה.
מתאים ל
- סיווג טקסט ללא אימון
תיוג ישיר של מסמכים ארוכים לפי קטגוריות מותאמות אישית, בלי לאסוף דוגמאות מראש.
- בסיס למודל תגמול
אימון נוסף למערכות דירוג תשובות בזכות נתוני אימון קודמים מתחום המשוב האנושי.
- אימות עובדות מול מקור
בדיקה אם טענה מסוימת נובעת מתוך פסקה נתונה באנגלית, עם דיוק של כ־72 אחוז.
איפה זה נופל
המודל תומך באנגלית בלבד, וטקסטים בעברית פשוט לא יעבדו כאן. בנוסף, חלון ההקשר המורחב עוזר מאוד להסקה, אבל במשימות לוגיקה מאתגרות התוצאות נמוכות ונעות סביב 46 עד 52 אחוזים. אסור להסתמך עליו במוצר שדורש עמידה בכללים לוגיים קשיחים בלי לבדוק אותו קודם על הנתונים שלכם.
שאלות
נפוצות
האם הוא מתאים לעיבוד טקסטים בעברית?
לא. המודל אומן על אנגלית בלבד ומכיל טוקנייזר שלא מותאם לעברית. הזנת טקסט מקומי תוביל לתוצאות גרועות ולשגיאות סיווג.
כמה כוח מחשוב נדרש כדי לסווג איתו בזמן אמת?
מעט מאוד. המודל שוקל מעט מעל גיגה-בייט ומכיל 142 מיליון פרמטרים בלבד, כך שכרטיס מסך בסיסי עם 4 עד 6 גיגה זיכרון יספיק למהירות גבוהה.
איך מריצים
עם 142 מיליון פרמטרים ומשקל קבצים של 1.1 גיגה, אתם לא צריכים שרת יקר. אפשר להריץ אותו בקלות בספריית טרנספורמרס דרך צינור סיווג אפס דגימות סטנדרטי על כרטיס גרפי פשוט, ואפילו מעבד סביר יספיק לרוב המשימות בלי צוואר בקבוק מורגש.
אם יש לכם תעבורה נמוכה של כמה קריאות ביום, אולי נוח להשתמש בנקודת קצה מנוהלת כדי לחסוך תחזוקה. אבל ברגע שיש נפח עבודה קבוע, המודל הזה כל כך קל וזול לתפעול עצמי שאין היגיון לשלם לספקי ענן לפי קריאה.
from transformers import pipeline
pipe = pipeline("zero-shot-classification", model="tasksource/deberta-small-long-nli")
print(pipe("שלום"))הקבצים
10 קבצים במאגר, 1.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא אפאצ'י שתיים אפס. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקלים, ולשלב אותו במוצרים סגורים, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים