GPT
הוספת כלי
M

Minos-v1

קוד פתוח

NousResearchapache-2.02025-04-24

  • transformers
  • safetensors
  • modernbert
  • text-classification
  • text-embeddings-inference

זה מסווג קל משקל שמזהה מתי מודל שפה מסרב לענות לבקשת משתמש. הוא נבנה כדי לסנן סירובים מדאטה סינתטי או לנטר תשובות של צ'אטבוטים בזמן אמת.

  • 396Mפרמטרים
  • 8,192טוקנים בהקשר
  • 1.5 GBמשקל הקבצים
  • 1,585הורדות בחודש

מה זה

המודל הזה נשען על ארכיטקטורת ModernBERT-large עם 396 מיליון פרמטרים, ומבצע משימה אחת בלבד: קבלת שיחה בין משתמש לעוזר וקביעה האם העוזר סירב לבקשה או שיתף פעולה. הוא מאומן על 387,134 דוגמאות שכוללות 132 מיליון טוקנים, ומחזיר שתי תוויות אפשריות עם רמת ביטחון.

היתרון המרכזי כאן מול מסווגים ישנים יותר הוא חלון הקשר של 8,192 טוקנים. זה אומר שאפשר לזרוק אליו שיחות ארוכות ומרובות תורות כדי לבדוק אם הסירוב הגיע איפשהו באמצע השרשור, בלי לחתוך את הטקסט או לאבד הקשר של פרומפטים ארוכים.

מתאים ל

  • סינון דאטה סינתטי

    ניקוי אוטומטי של תשובות שבהן המודל סירב לענות, כדי שלא ייכנסו לדאטה־סט שמאמנים עליו.

  • ניטור תשובות במערכות צ'אט

    זיהוי בזמן אמת של מקרים שבהם הבוט חסם משתמש או סירב לטפל בפנייה מטעמי בטיחות.

  • בדיקות רגרסיה ויישור מודלים

    מדידה מספרית של אחוז הסירובים במודל חדש מול פרומפטים בעייתיים או בדיקות חדירות.

איפה זה נופל

המודל מחייב שימוש מדויק בטוקנים של תבנית השיחה. אם תזינו טקסט חופשי בלי המבנה שכולל את תגיות המשתמש והעוזר, הסיווג פשוט לא יעבוד כמו שצריך. מעבר לזה, הכרטיס מציג דוגמאות באנגלית בלבד, ואין שום מידע על היכולת שלו לזהות סירובים בעברית, כך שתצטרכו לבדוק את הדיוק שלו בעצמכם מול שפות שאינן אנגלית.

שאלות
נפוצות

איך צריך להעביר אליו את הטקסט כדי שהוא יזהה סירוב?

המודל דורש תבנית ספציפית שמפרידה בין הדוברים. צריך להשתמש בתגית המשתמש לפני הבקשה, ומיד אחריה בתגית העוזר עם התשובה שנבדקת. בשיחות ארוכות פשוט משרשרים את התורות זה אחר זה באותו הפורמט.

האם הוא מסביר למה העוזר סירב לענות?

לא. הפלט הוא סיווג בינארי בלבד שמחזיר האם היה סירוב או לא, בצירוף ציון הסתברות. הוא לא מפרט אם הסירוב נבע משיקולי בטיחות, תוכן בלתי חוקי או מגבלת יכולת של המודל.

איך מריצים

המשקל הכולל של הקבצים הוא כולה 1.5 גיגה בייט. זה אומר שלא צריך שום שרת כבד, הוא רץ בלי בעיה על מעבד מקומי רגיל או על כרטיס מסך בסיסי מאוד באמצעות transformers של פייתון, בלי להסתבך עם קוונטיזציה.

בגודל כזה ממש אין שום סיבה להשתמש ב־API חיצוני ולשלם על כל קריאה. אתם פשוט מורידים את המשקלים, טוענים לזיכרון ודוחפים שיחות בפורמט התבנית שהוגדר.

from transformers import pipeline

pipe = pipeline("text-classification", model="NousResearch/Minos-v1")
print(pipe("שלום"))

הקבצים

8 קבצים במאגר, 1.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להריץ אותו כחלק ממוצר סגור ולהפיץ אותו הלאה, כל עוד שומרים על הודעת הרישיון וזכויות היוצרים המקוריות.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗