rlhf-arena

מה זה

הרעיון פשוט וישיר. אתם כותבים הודעה אחת בתיבת הטקסט, ומקבלים שתי תשובות נפרדות משני מודלים שונים שמופיעים כבוט א' ובוט ב'. לצד ההודעה הרגילה, הממשק כולל שדות להגדרת פרסונה, הודעת מערכת והודעת דחיפה, שמאפשרים לבדוק התנהגות מורכבת יותר ומשחקי תפקידים.

מאחורי הקלעים המודלים לא רצים על השרת המקומי של הממשק אלא מתבססים על תשתית Runpod Serverless, והדירוגים נשמרים בדאטהסט בשם chatbot arena elo scores. רק אחרי שאתם בוחרים מי ענה טוב יותר, אם היה תיקו או ששניהם גרועים, המערכת חושפת את השמות האמיתיים של המודלים שהתחרו.

מתאים ל

• השוואת מודלים עיוורת

  בוחנים שני מודלים שונים על אותו פרומפט בדיוק בלי לדעת מי עונה, כדי למנוע הטיה מראש.

• בדיקת משחקי תפקידים

  מזינים פרסונה והנחיית מערכת ייעודית, ובודקים מי מהמודלים מצליח לשמור על הדמות לאורך השיחה.

• איסוף דירוגי איכות

  מצביעים על התשובה המוצלחת בכל סבב ועוזרים לעדכן את ציוני הדירוג במאגר המשותף.

איפה זה נופל

הבעיה המרכזית כרגע היא שהאפליקציה במצב שגיאת ריצה, ולכן אי אפשר להשתמש בה ישירות בדפדפן בלי לתקן את הקוד או להרים אותה מחדש. בנוסף, ההרצה תלויה לחלוטין בשרתי Runpod חיצוניים ובמפתחות מתאימים, כך שאם התשתית החיצונית נופלת או שאין תקציב בשרתים המרוחקים, שום דבר לא מייצר טקסט. אי אפשר לבחור מראש את המודלים שמתחרים אלא רק לקבל זוג אקראי, ואין שום התחייבות שהתשובות מגיעות בזמן סביר.

איך משתמשים

בפועל כותבים הודעה בתיבה, מוסיפים הנחיות מערכת אם רוצים, ולוחצים על שליחה. זמן ההמתנה לתשובות תלוי בקריאות השרת של Runpod לכל מודל בנפרד. כשהתשובות מופיעות על המסך נפתחים כפתורי ההצבעה, ואחרי הבחירה נחשפים שמות המודלים. הממשק עצמו יושב על מעבד בסיסי בלבד בהאגינג פייס, אבל עיקר זמן העיבוד שייך לתשתיות החיצוניות שמריצות את הטקסט.

הרישיון

הפרויקט מפורסם תחת רישיון apache 2.0 שמאפשר שימוש חופשי, שינוי הקוד והפצה מחדש, כולל שימוש מסחרי. נתוני ההצבעות והאינטראקציות נשמרים כחלק ממאגר דירוגי הקהילה, ולכן כל שיחה או פרומפט שתזינו שם לא נשארים פרטיים ועשויים להגיע לדאטהסט הפומבי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗