DocQA-RL-1.6K
קוד פתוחTongyi-Zhiwenapache-2.02025-05-23
מדובר באוסף ממוקד של שאלות על מסמכים ארוכים, שנועד לאימון למידת חיזוק עם פתרונות שניתן לאמת. מי שבונה מודל להסקה מורכבת מתוך דוחות או חוזים ימצא כאן חלוקה מוגדרת היטב לפי תחומי חשיבה.
- 223הורדות בחודש
- 42לייקים
מה זה
המאגר מכיל אלף ושש מאות בעיות מענה על שאלות מתוך מסמכים, שמחולקות לשלושה סוגי חשיבה שונים. התחום הראשון הוא הסקה מתמטית שכולל שש מאות שאלות מתוך DocMath, שמתמקדות בחישובים על מסמכים מקצועיים ארוכים כמו דוחות פיננסיים. שבעים וחמישה אחוזים מכל תת קבוצה בחלוקת הוולידציה של DocMath הלכו לאימון, והיתר נשמרו להערכה.
התחום השני מכסה שש מאות שאלות רב ברירה של הסקה לוגית, שנוצרו באמצעות DeepSeek-R1 על בסיס מסמכים אמיתיים מעולמות המשפט, הפיננסים, הביטוח והייצור. התחום השלישי מוקדש להסקה מרובת שלבים, עם מאתיים דוגמאות מתוך MultiHopRAG ומאתיים דוגמאות נוספות מתוך Musique, שדורשות ניתוח והצלבת מידע בין מסמכים שונים.
מתאים ל
- אימון מודלים בשיטות RL
אימון והתאמה של מודלי שפה להסקה מדויקת על מסמכים ארוכים עם פתרונות שניתנים לאימות.
- מבחני ביצוע להסקה רב שלבית
בדיקת יכולת המודל לחבר עובדות ממספר מקורות שונים בעזרת דוגמאות מובנות מתוך מאגרים קיימים.
- ניתוח דוחות פיננסיים
בחינת יכולות חישוב ומענה על שאלות מתמטיות ישירות מתוך טקסטים מקצועיים ארוכים.
איפה זה נופל
חלק משמעותי מהשאלות הלוגיות סונתז ישירות על ידי מודל DeepSeek-R1 ולא נכתב בידי אדם, מה שעלול להכניס הטיות סינתטיות או ניסוחים מלאכותיים שחוזרים על עצמם. בנוסף, הכרטיס לא מציין תמיכה בשפות אחרות מלבד אנגלית, כך שאין כאן מענה למי שמחפש מסמכים בעברית או תכנים מקומיים. כדאי לבדוק ידנית את איכות השאלות המסונתזות לפני שמבססים עליהן תהליכי הערכה רגישים.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט לפרויקט מסחרי?
כן, הרישיון המדווח הוא apache-2.0. הוא מאפשר שימוש מסחרי, מחקרי והתאמה אישית, כל עוד מקפידים על דרישות הייחוס של הרישיון.
האם הדאטהסט כולל שאלות או מסמכים בעברית?
הכרטיס לא מזכיר תמיכה בעברית. המקורות שמהם נאספו הנתונים הם מאגרים ומסמכים באנגלית, כך שהוא לא מיועד למשימות בשפה המקומית.
איך נאסף המידע שהרכיב את השאלות?
החוקרים שילבו דגימות מכמה מקורות מוכרים כמו DocMath, MultiHopRAG ו־Musique. בנוסף, הם ייצרו שש מאות שאלות לוגיות חדשות בעזרת DeepSeek-R1 מתוך מסמכים שונים.
באיזה פורמט הקבצים מגיעים?
המאגר כולל קובצי train.parquet ו־test.parquet מוכנים. אפשר למשוך אותם ישר דרך ספריית datasets או לקרוא אותם עם pandas בלי המרות מיוחדות.
איך טוענים
הנתונים מגיעים בקובצי parquet שמחולקים מראש לסט אימון בשם train.parquet ולסט מבחן בשם test.parquet. אין צורך באישור גישה מיוחד כדי להוריד אותם ישירות מתוך Hugging Face. המאגר כולל ארבעה קבצים בסך הכל יחד עם התיעוד הבסיסי, כך שטעינה ישירה לסביבת הפיתוח דורשת רק את הכלים הסטנדרטיים לעבודה עם קובצי טבלאות.
from datasets import load_dataset
ds = load_dataset("Tongyi-Zhiwen/DocQA-RL-1.6K")הרישיון
המאגר מופץ תחת רישיון apache-2.0, שמתיר שימוש מסחרי מלא, שינוי והפצה של הנתונים. מותר לאמן עליו מודלים לצרכים פנימיים או מסחריים בלי חובה לחשוף את הקוד שלכם, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים הרלוונטיים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים