GPT
M

Math-Shepherd

קוד פתוח

peiyi9979רישיון לא דווח2023-12-11

  • prm
  • synthesized data

המאגר מכיל פתרונות מתמטיים שלב אחר שלב עם תיוג אוטומטי לכל צעד. הוא מתאים למי שרוצה לאמן מודל שמעריך נכונות של שלבי חשיבה ולא רק את התוצאה הסופית.

  • 1,054הורדות בחודש
  • 105לייקים

מה זה

כל רשומה בנויה משלושה שדות: שדה הקלט שמציג בעיה ופתרון מחולק לשלבים, שדה התיוג שמחליף את מזהה השלב בסימון חיובי או שלילי, ושדה המשימה שמציין אם מקור השאלה הוא GSM8K או MATH. המבנה מיועד באופן מובהק לאימון מעריכי תהליך.

התוויות נקבעו בצורה אוטומטית לפי הפוטנציאל של כל שלב להוביל לפתרון הנכון, כאשר פלוס מייצג צעד תקין ומינוס מייצג צעד שגוי. בקלט שולב תו ייעודי, קי, שנועד לסמן למודל בדיוק באיזה מיקום לחשב את ההפסד עבור הצעד הנוכחי.

הנתונים נשענים על שאלות מתוך GSM8K ו־MATH, אך הכרטיס אינו מפרט תהליכי סינון ידניים נוספים שנעשו על הטקסטים או על איכות התוויות האוטומטיות.

מתאים ל

  • אימון מודלי PRM

    אימון רשתות לבדיקת איכות שלבי פתרון מתמטיים באמצעות חישוב שגיאה על מיקומי הטוקן הייעודי.

  • ניקוד חיפוש עץ להסקה

    הערכת ענפי חשיבה שונים של מודלי שפה במהלך יצירת פתרונות לשאלות חשבון.

  • סינון דאטה לאימון

    זיהוי וסינון פתרונות הכוללים צעדים שגויים מתוך מאגרי שאלות קיימים באנגלית.

איפה זה נופל

התיוג של השלבים נוצר באופן אוטומטי ולא נבדק ידנית על ידי בני אדם, כך שטעויות חישוב מורכבות עלולות לקבל תיוג שגוי. התוכן מוגבל לאנגלית בלבד ולמתמטיקה מתוך GSM8K ו־MATH, ללא שפות נוספות או בעיות מחוץ לעולמות האלה. בנוסף, קוד האימון המקורי מסוג PPO הוגדר כפנימי ולא שוחרר, מה שמקשה על שחזור מדויק של התוצאות.

שאלות
נפוצות

האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?

לא מומלץ. לא דווח רישיון למאגר, מה שאומר שאין הרשאה ברורה להשתמש בו לצרכים מסחריים או לאמן עליו מודל עסקי. במצב כזה אתם לוקחים סיכון של הפרת זכויות יוצרים.

האם המאגר כולל תמיכה בעברית?

לא. כל השאלות והפתרונות מקורם במאגרים GSM8K ו־MATH, והם כתובים באנגלית בלבד. אם המודל שלכם מיועד לעברית, תצטרכו לתרגם את החומר או להשתמש במקור אחר.

איך נאספו התוויות של שלבי הפתרון?

התוויות סומנו באופן אוטומטי ולא ידני. היוצרים השתמשו בשיטה ממוחשבת שקובעת האם צעד נתון עשוי להוביל לסיום מוצלח של התרגיל, וסימנו פלוס לשלב טוב ומינוס לשלב רע.

איך מחשבים את הניקוד לשלבים מתוך הטקסט?

בטקסט הקלט מופיע התו קי בסוף כל שלב. בזמן אימון מודל ההערכה, מחשבים את פונקציית ההפסד אך ורק על המיקום שבו התו הזה מופיע.

איך טוענים

אתם מושכים את הנתונים ישירות בעזרת הפקודה load_dataset מספריית datasets מול הנתיב peiyi9979/Math-Shepherd, ללא צורך באישור גישה או במפתח מיוחד. הקובץ המרכזי שיושב במאגר שמור בפורמט jsonl.

לפני הרצת האימון חשוב לטפל בטוקן הייחודי קי, שכן הוא משמש עוגן לחישוב פונקציית ההפסד בשלבי החשיבה ומצריך התאמה של הטוקנייזר או שכבת הניקוד שלכם.

from datasets import load_dataset

ds = load_dataset("peiyi9979/Math-Shepherd")

הרישיון

היוצר לא הגדיר רישיון במאגר. מבחינה משפטית, היעדר רישיון משמעו שכל הזכויות שמורות ולא ניתנה רשות מפורשת לשימוש מסחרי, הפצה או אימון מודלים למוצרים מסחריים. אימון מודל על בסיס נתונים אלו חושף אתכם לחוסר ודאות משפטית.

הרישיון המלא ב־Hugging Face ↗