GPT
E

enterprise_scenarios_leaderboard

רץ בדפדפן

PatronusAIapache-2.02023-12-12

  • gradio
  • leaderboard

לוח תוצאות שמרכז ומדרג ביצועים של מודלי שפה שונים בתרחישים עסקיים. הממשק מיועד לחוקרים ולמפתחים שרוצים לבחון מודלים קיימים או לשלוח מודל חדש לבדיקה.

  • הורדות בחודש
  • 105לייקים

מה זה

הממשק מציג טבלה עם ציוני מודלים לפי משימות ומדדים שונים. אתם יכולים לחפש מודל לפי שם, לסנן לפי דיוק משקולות כמו float16 או שמונה ביט, לבחור גודל מודל, ולהציג או להסתיר עמודות ספציפיות כדי לקבל השוואה ממוקדת.

המידע בטבלה נשען על קובצי תוצאות שנטענים ממאגרי נתונים ומסודרים מראש לפי פורמט ג'ייסון שכולל את מזהה המודל, משימות ההערכה והציונים. הלשונית הנוספת מאפשרת להגיש מודל חדש מתוך Hugging Face על ידי הזנת נתיב המאגר, ה־commit הרצוי, סוג המודל ומשקולות הבסיס, והכלי רושם את הבקשה אל תוך תור הערכות שמנוהל במאגר נתונים חיצוני ייעודי.

מתאים ל

  • השוואת ביצועי מודלים

    סינון ומיון של מודלי שפה לפי מדדי ביצוע שונים בתרחישים עסקיים.

  • הגשת מודל לתור בדיקה

    הזנת פרטי מודל ממאגר ציבורי כדי להכניס אותו לתור ההערכה של הלוח.

  • מעקב אחר סטטוס הערכות

    בדיקת מצב המודלים בלשוניות הבדיקה שמציגות משימות שהסתיימו או רצות.

איפה זה נופל

החיסרון המיידי הוא שהיישום מושבת לחלוטין עקב שגיאת בנייה, כך שאי אפשר לגשת אליו או לבצע בדיקות בפועל. מעבר לזה, הממשק עצמו לא מריץ את החישובים בזמן אמת ולא מעריך את הטקסטים שלכם במקום, אלא רק מציג תוצאות שכבר חושבו מראש על תרחישים ספציפיים. אין פה אפשרות לבדוק מודלים פרטיים שלא נמצאים ב־Hugging Face, ואין שום מידע על התנהגות במשימות מחוץ לאותם תרחישים שנבדקו.

שאלות
נפוצות

האם הממשק זמין לשימוש עכשיו?

לא, כרגע הדף מדווח על תקלת בנייה. אי אפשר לגשת לטבלאות או לשלוח מודלים חדשים עד שהיוצרים יתקנו את התקלה ויפעילו מחדש את היישום.

האם השירות הזה עולה כסף?

לא, השימוש בממשק ובצפייה בלוח התוצאות פתוח ללא תשלום. גם הגשת מודלים לתור הבדיקה אינה כרוכה בעלות כספית.

האם הכלי מעבד קבצים וטקסטים שאני מזין בעצמי?

לא, אתם לא מעלים מסמכים או שאלות לניתוח. הממשק מקבל רק פרטי מזהה של מודלים שכבר קיימים ב־Hugging Face כדי לתזמן עבורם בדיקות חיצוניות.

האם אפשר להריץ את הקוד באופן מקומי?

כן, הקוד מבוסס על ספריית גרדיו וקובצי פייתון סטנדרטיים תחת רישיון apache-2.0. אפשר להוריד את הקבצים, להגדיר את משתני הסביבה הדרושים ולהריץ מקומית.

איך משתמשים

כרגע אין מה ללחוץ, כי הדף נמצא במצב שגיאת בנייה והוא לא עולה בדפדפן. במצב תקין המערכת רצה על חומרת מעבד משודרגת ומציגה את הנתונים ישירות דרך לשוניות גרדיו בלי דרישה להתחברות מראש לצורך צפייה. כדי לשלוח מודל לבדיקה ממלאים את שדות הטקסט של שם המודל, הגרסה והפרמטרים בטופס, לוחצים על כפתור השליחה, והבקשה נכנסת לרשימת המתנה שמציגה מודלים שסיימו, מודלים שרצים ומודלים שממתינים בתור.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הקוד והפצה שלו, בכפוף לשמירה על הודעות זכויות היוצרים ומסמכי הרישיון המקוריים. פרטי הבקשות והמודלים שמוגנים לשליחה מתועדים במאגרי נתונים ציבוריים בפלטפורמה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗