reasonir-data
קוד פתוחreasonircc-by-nc-4.02025-04-30
המאגר כולל דוגמאות סינתטיות לאימון מודלים של אחזור מידע מורכב. הוא מתאים למי שרוצה לשפר יכולות שליפה סביב שאילתות קשות ואורכי טקסט משתנים.
- 160הורדות בחודש
- 36לייקים
מה זה
הנתונים מורכבים מדוגמאות סינתטיות ששימשו במקור לאימון המודל ReasonIR-8B עבור משימות אחזור טקסט. המאגר מחולק לשני תתי מאגרים נפרדים. החלק הראשון מכיל נתונים בעלי אורך משתנה, וכולל מבנה מלא של שאילתה, מסמך חיובי רלוונטי ומסמך שלילי לצורך אימון דירוג.
החלק השני ממוקד בשאילתות קשות. בגלל מגבלות משפטיות, החוקרים לא יכלו להפיץ מחדש את המסמכים החיוביים המקוריים בחלק הזה. במקום זה, הרשומות שם מכילות שאילתה, מזהה של המסמך החיובי ומסמך שלילי. כדי להשתמש בחלק של השאילתות הקשות צריך למזג את המזהים עם הטקסטים המקוריים מתוך מאגר BRIGHT של xlangai לפי הסקריפט של הפרויקט.
מתאים ל
- אימון מודלי אחזור
אימון מודלי שליפה על שאילתות סינתטיות מורכבות ומסמכים באורכים שונים.
- מחקר שאילתות קשות
בדיקת ביצועים של אלגוריתמי דירוג מול דוגמאות שנבחרו כקשות לפי מדד BRIGHT.
- השוואת ביצועי שליפה
הערכה השוואתית של מודלי שפה עבור משימות text-retrieval באנגלית.
איפה זה נופל
הנתונים כולם באנגלית ומבוססים על דוגמאות סינתטיות, כך שאין כאן כיסוי לשפות אחרות או בדיקה של עברית. אי אפשר להתחיל לעבוד מיד עם חלק השאילתות הקשות כי חסרים בו המסמכים החיוביים עצמם, מה שמחייב תלות ישירה בהורדה ובמיזוג של מאגר חיצוני כדי לקבל דוגמאות שלמות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא. הרישיון המוגדר הוא cc-by-nc-4.0, והוא אוסר במפורש שימוש מסחרי מכל סוג. אימון מודל לצורך מוצר עסקי מהווה הפרה של תנאי הרישיון.
האם יש תמיכה בעברית?
לא, הדאטהסט כולל טקסטים באנגלית בלבד. אם המטרה היא לאמן או לבדוק מערכות שליפה בעברית, הנתונים כאן לא יעזרו לכם.
מדוע חסרים מסמכים בחלק של השאילתות הקשות?
היוצרים מציינים שמסיבות משפטיות נאסר עליהם לארח מחדש את המסמכים החיוביים המקוריים. הפתרון שלהם הוא הפצת מזהי המסמכים בלבד, ודרישה מהמשתמש למשוך אותם עצמאית ממאגר BRIGHT.
איך טוענים
טוענים את הנתונים ישירות דרך ספריית datasets באמצעות פקודת load_dataset עם ציון המזהה reasonir/reasonir-data ובחירת החלוקה הרצויה, vl או hq. הקבצים יושבים בפורמט parquet ואין צורך לבקש אישור גישה מראש. אם עובדים עם סט השאילתות הקשות, חובה להוריד במקביל את מאגר BRIGHT ולהריץ את סקריפט האיחוד כדי לחבר את המזהים אל הטקסטים המלאים של המסמכים החיוביים.
from datasets import load_dataset
ds = load_dataset("reasonir/reasonir-data")הרישיון
הרישיון הוא cc-by-nc-4.0. המשמעות ברורה וחדה: אסור להשתמש בדאטהסט הזה לשום מטרה מסחרית. הוא מוגבל לשימושי מחקר, לימוד ובדיקות פנימיות בלבד, ומחייב מתן קרדיט ליוצרים. אם אתם מתכננים לאמן מודל שישולב במוצר מסחרי, המאגר הזה פשוט לא בא בחשבון.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא