long_form_thought_data_5k
קוד פתוחRUC-AIBOXapache-2.02024-12-23
המאגר כולל חמשת אלפים דוגמאות חשיבה ארוכה מובנית לשאלות מדעיות וחידות. הוא נועד למי שרוצה לאמן מודלים להסביר שלב אחרי שלב לפני שהם פולטים תשובה סופית.
- 140הורדות בחודש
- 28לייקים
מה זה
כל רשומה בנויה סביב שאלה אחת ותשובה שמחולקת באופן קשיח לשני מקטעים, תהליך חשיבה מפורט ופתרון סופי. הטקסט מחבר את שניהם בתוך שדה אחד עם תגיות ייעודיות שמסמנות את ההתחלה והסיום של כל שלב. המבנה הזה מכוון ישירות לעבודה על מודלים בסגנון חשיבה אטית, שבהם רוצים לאלץ את המודל לפרט חישובים והיסוסים לפני שהוא ניגש לתוצאה.
התוכן מקוטלג לפי תחומים מוגדרים: מתמטיקה, פיזיקה, כימיה, ביולוגיה, קוד וחידות היגיון. מדובר בדאטהסט קטן יחסית שנשען על מחקרים של קבוצת RUC-AIBOX מסוף שנת 2024 העוסקים בחיפוש מונחה תגמול ובחיקוי מערכות חשיבה. מעבר לסכמה עצמה, הכרטיס אינו מפרט איך השאלות נבחרו בפועל, אילו סינונים הופעלו על הדוגמאות, או מה אורך החשיבה הממוצע בכל תחום.
מתאים ל
- כוונון עדין לחשיבה
אימון מודל שפה לייצר תהליך מחשבה לפני שהוא עונה על שאלות מתמטיות או מדעיות מורכבות.
- ולידציה של שרשראות היגיון
הערכה ובדיקה של יכולת מודלים לעקוב אחרי צעדי פתרון מפורטים בתחומי תכנות ומדעים מדויקים.
- מחקר על חשיבה אטית
שחזור וניסוי של שיטות חשיבה ארוכה מונחית תגמול לפי המאמרים שפרסמה קבוצת המחקר.
איפה זה נופל
החולשה העיקרית כאן היא חוסר השקיפות סביב מקור הנתונים. המפתחים לא ציינו אם התשובות והמחשבות הופקו על ידי מודל שפה אחר, אם הן נאספו מבני אדם, או האם מישהו אימת את הדיוק המדעי של הפתרונות. בנוסף, חמשת אלפים דוגמאות זה נפח קטן מאוד לאימון רחב, והוא מתאים בעיקר לכוונון עדין נקודתי או להערכה ראשונית של התנהגות מודל. כל הדאטהסט בנוי באנגלית בלבד, כך שאין כאן שום כיסוי לשאלות בעברית או בתחומים שאינם מדעיים לחלוטין.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט הזה במוצר מסחרי?
כן, הרישיון המדווח הוא apache-2.0 ומאפשר שימוש מסחרי מלא. אתם נדרשים לשמור על ייחוס למחברים המקוריים, אך אין דרישה לפתוח את הקוד או את המודלים שלכם.
האם יש בדאטהסט הזה תוכן בעברית?
לא, כל הדוגמאות במאגר הן בשפה האנגלית בלבד. הכרטיס והתחומים המוגדרים בו מכוונים למשימות מדעיות, תכנות וחידות באנגלית, כך שהוא לא יעזור ישירות לשיפור ביצועים בשפה העברית.
איך המידע נאסף והאם התשובות נבדקו על ידי מומחים?
כרטיס המאגר לא מפרט את אופן האיסוף או הסינון. הוא מפנה לשני מאמרים של החוקרים על מערכות חשיבה אטית, אבל אינו מציין האם הטקסטים נוצרו על ידי אדם, מודל אחר, או אם עברו בדיקת איכות ידנית.
האם המאגר מגיע בפורמט jsonl כפי שכתוב בתיעוד?
בפועל הקובץ במאגר נשמר בפורמט parquet תחת ספריית data. למרות שההסבר מתייחס למבנה פנימי של שורות json, ספריית datasets תטען אותו ישירות כטבלה בלי צורך בהמרות מיוחדות.
איך טוענים
הנתונים יושבים במאגר בקובץ parquet יחיד תחת תיקיית data, לצד קובץ התיעוד, למרות שהכרטיס מתאר את המבנה כקובץ jsonl. אפשר למשוך אותו ישירות דרך ספריית datasets בלי צורך באישור גישה מוקדם או בהזדהות מיוחדת מול המערכת.
בכל שורה תמצאו שלושה שדות בלבד: question שמכיל את השאלה המקורית, combined_text שמחזיק את שרשרת החשיבה לצד הפתרון, ו domain שמגדיר את הקטגוריה. לפני שמתחילים לרוץ על זה באימון, חשוב לפרסר את התגיות המיוחדות של החשיבה והפתרון כדי לוודא שהטוקנייזר שלכם מזהה אותן נכון ולא שובר אותן לחלקים קטנים.
from datasets import load_dataset
ds = load_dataset("RUC-AIBOX/long_form_thought_data_5k")הרישיון
המאגר פורסם תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הנתונים והפצה חופשית, ואינו מחייב אתכם לשחרר מוצרים או מודלים שתאמנו באותו הרישיון. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים והפניה למקור. אם אתם מאמנים מודל על הבסיס הזה, הרישיון לא מגביל את תוצרי האימון שלכם.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים