RationaleRM
קוד פתוחQwencc-by-4.02026-02-02
יש כאן גם סקירה על Qwen עצמו.
המאגר מכיל פירוק של נימוקי שיפוט ליחידות אטומיות לצורך אימון ובדיקת מודלי תגמול. הוא נועד למנוע ממודלים להגיע להכרעה הנכונה על בסיס שיקולים שטחיים במקום בדיקת עובדות.
- 838הורדות בחודש
- 29לייקים
מה זה
המאגר מבוסס על HelpSteer3 ומציג דרך לבדוק האם מודל שופט תשובות מהסיבות הנכונות ולא רק מספק תוצאה שנראית נכונה. הרשומות כוללות הקשר של השיחה, שתי תשובות שונות של מודלים, ותיוג מפורט שמפרק את הנימוקים של בני אדם לסעיפים אטומיים ברשימת תיוג.
בפועל המאגר מחולק לשני קבצים עיקריים. הקובץ המלא מכיל 22,116 דוגמאות ומיועד בעיקר לאימון מודלי תגמול על תהליך ההסקה עצמו. הקובץ השני כולל 1,000 דוגמאות מבחן שבהן מופיעים גם נימוקים שנוצרו על ידי שני מודלים שונים, אחד בעל עקביות נימוק גבוהה והשני עם התאמה מטעה, כדי לבחון אם המודל מזהה הצדקות שגויות.
מתאים ל
- אימון מודלי תגמול
אימון מודלי תגמול ושיפוט על תהליך ההסקה ולא רק על ציון התוצאה הסופי.
- זיהוי התאמה מטעה
מדידת הפער בין נכונות הבחירה הסופית לבין איכות הנימוקים הלוגיים של המודל.
- הערכת שופטי LLM
בדיקת איכות הנימוקים של שופטים אוטומטיים מול פירוק אטומי של נימוקי אדם.
איפה זה נופל
כל הטקסט במאגר כתוב באנגלית בלבד ואין בו נתונים בעברית. הנימוקים האטומיים נוצרו באמצעות GPT-5 למטרות מחקר, כך שקיימת תלות בהטיות של המודל שיצר אותם. המאגר ממוקד בהשוואת טקסט כללית ושיפוט איכות, ולכן הוא לא רלוונטי למי שמחפש למידה מחיזוקים במשימות חישוביות מובהקות כמו קוד או מתמטיקה.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מודל מסחרי?
הרישיון המדווח הוא cc-by-4.0 ולכן הוא מתיר שימוש מסחרי כל עוד מקפידים על ייחוס מתאים ליוצרים. עם זאת, הנימוקים האטומיים נוצרו בעזרת GPT-5, ולכן כדאי לוודא ששימוש כזה אינו מתנגש עם תנאי השימוש של ספק המודל שיצר אותם.
האם המאגר כולל עברית?
המאגר כולל טקסטים באנגלית בלבד. אם המערכת שלכם עובדת בעברית, הנתונים כאן לא יעזרו באופן ישיר ללא תרגום והתאמה של הנימוקים.
איך נאספו הנימוקים שנמצאים בקבצים?
הבסיס הוא נתוני HelpSteer3. החוקרים השתמשו ב־GPT-5 כדי לפרק את הנימוקים האנושיים ליחידות אטומיות ברורות בפורמט של רשימת תיוג.
מה ההבדל בין המאגר הזה למאגרי העדפות רגילים?
מאגרי העדפה סטנדרטיים כוללים רק שתי תשובות וסימון איזו מהן טובה יותר. כאן יש פירוק מדויק של כל נימוק שהוביל להחלטה, מה שמאפשר לאמן את המודל על תהליך החשיבה עצמו ולא רק על הניחוש הנכון.
איך טוענים
אתם מורידים קובצי JSONL ישירות מתיקיית הדאטה במאגר ללא צורך באישור גישה. הקובץ המרכזי שוקל עשרות מגה-בייטים בלבד וכולל 22,116 שורות. השדות הקריטיים לעבודה הם context, שתי התשובות להשוואה, והמערך human-checklist שכולל את רשימת הנימוקים האטומיים. אם אתם מריצים הערכה מול קובץ הבדיקה בעזרת הסקריפטים המצורפים, תצטרכו להגדיר מפתח גישה לשירות כמו OpenAI כדי לבצע התאמה סמנטית בין נימוקי המודל לנימוקי האדם.
from datasets import load_dataset
ds = load_dataset("Qwen/RationaleRM")הרישיון
המאגר פורסם ברישיון cc-by-4.0. הרישיון מתיר שימוש מסחרי, שינוי והפצה של הנתונים, בתנאי שניתן קרדיט מתאים ליוצרים ומצוין אם נעשו שינויים. אין דרישה לשתף תוצרי המשך תחת אותו הרישיון, מה שמאפשר לאמן עליו מודלים פנימיים או מסחריים בלי לחשוף אותם.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס