GPT
C

closed-vs-open-arena-elo

רץ בדפדפן

andrewrreedapache-2.02024-05-01

  • gradio

מעקב גרפי שמשווה בין מודלי שפה פתוחים לסגורים לפי דירוג ELO מתוך הזירה של LMSYS. מתאים למי שרוצה לראות את פערי הביצועים לאורך זמן.

  • הורדות בחודש
  • 151לייקים

מה זה

היישום מושך נתונים מקובצי pkl ו־csv של לוח המובילים מבית lmsys/chatbot-arena-leaderboard ומציג אותם בציר זמן. אין כאן הרצה של בינה מלאכותית מקומית או עיבוד טקסט, אלא ויזואליזציה שמבוססת על ספריית plotly וטבלאות נתונים של pandas.

בממשק אפשר לבחור קבוצות מודלים, לסנן לפי ציון מינימלי, להגביל את כמות המודלים לחודש ולשלוט בהצגת הערות על הגרף. לשונית אחת מציגה את התרשים המשווה, ולשונית שנייה מציגה טבלת נתונים גולמיים עם אפשרות להורדת המידע כקובץ csv.

מתאים ל

  • השוואת ביצועי מודלים

    מעקב אחר מגמת הצמצום בפער בין מודלי קוד פתוח למודלים קנייניים לאורך זמן.

  • סינון לפי ארגון

    בדיקת מיקומים והתקדמות של חברות וארגונים ספציפיים מתוך נתוני הדירוג.

  • ייצוא נתונים גולמיים

    הורדת טבלת הציונים והתאריכים כקובץ CSV לניתוח עצמאי בכלים חיצוניים.

איפה זה נופל

היישום לא בוחן מודלים בעצמו ואינו מאפשר להזין פרומפטים לבדיקה. הוא תלוי לחלוטין בעדכוני הנתונים החיצוניים של LMSYS, וכשהחיבור או הקוד נשברים הממשק קורס לחלוטין. כמו כן, אין תמיכה בניתוח נתונים מותאם אישית מעבר לפרמטרים הבסיסיים שהוגדרו מראש.

שאלות
נפוצות

האם השימוש עולה כסף?

לא, הממשק מוצע בחינם לחלוטין ואינו דורש תשלום. אין צורך להירשם או להזין פרטי אשראי כדי לצפות בנתונים. עם זאת, נכון לעכשיו יש שגיאת ריצה שמונעת גישה סדירה.

מה קורה למידע או לקבצים שלי?

אתם לא מעלים קבצים אישיים ולא מזינים מידע פרטי ליישום. הפעולות מסתכמות בהזזת סליידרים ובחירת פילטרים לצפייה בגרף. המידע היחיד שעובר הוא בקשות הסינון שאתם מגדירים בממשק.

האם אפשר להריץ את הכלי במחשב האישי?

כן, הקוד פתוח תחת רישיון apache-2.0 ומבוסס על ספריית gradio ופייתון. אפשר להוריד את הקוד, להתקין את התלויות ולהריץ אותו ישירות מול מאגרי הנתונים. ייתכן שתידרש התאמה לקוד כדי לפתור את שגיאת הריצה הקיימת.

במה זה שונה משימוש במודל שפה רגיל?

הכלי הזה אינו מודל שפה ואי אפשר להתכתב איתו. הוא בסך הכל לוח בקרה גרפי שמרכז תוצאות של מבחני עיוורון בין מודלים שונים. הוא מציג נתונים היסטוריים ולא מייצר טקסט או תשובות.

איך משתמשים

לוחצים על תפריטי הבחירה והסליידרים כדי לסנן לפי ארגון או ציון, והגרף אמור להתעדכן. הגישה פתוחה ישירות מהדפדפן בלי צורך בהתחברות או יצירת חשבון. המערכת מוגדרת על מעבד משודרג, אך נכון לעכשיו סטטוס הריצה מדווח על שגיאה (RUNTIME_ERROR), כך שהממשק אינו פעיל בפועל.

הרישיון

הקוד מופץ תחת רישיון apache-2.0, שמתיר שימוש חופשי, שינוי והפצה כולל למטרות מסחריות. המידע המוצג נשען על נתוני צד שלישי של LMSYS, כך ששימוש בנתונים עצמם כפוף למדיניות שלהם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗