חדש Key אחד לכל המודלים, עם הערכת מחיר לפני כל קריאה. יוצרים Key

GPT
G

gsm8k-reasoning

קוד פתוח

thesvenmit2024-09-18

  • synthetic
  • distilabel
  • rlaif

עיבוד מחדש של מבחן המתמטיקה המוכר שמחדד את שלבי ההיסק הלוגי. מתאים למי שרוצה לאמן מודלים על פתרון בעיות צעד אחר צעד ולא רק על שליפת תשובה סופית.

  • 1,048הורדות בחודש
  • 28לייקים

מה זה

המאגר מבוסס על שאלות מתוך openai/gsm8k, שהן בעיות מילוליות בחשבון ברמת בית ספר יסודי. היוצר העביר את הנתונים דרך צינור עיבוד של distilabel כדי לייצר פתרונות מפורטים יותר, שמדגישים חשיבה דדוקטיבית והסבר מובנה לכל שלב בדרך לפתרון.

הקובץ כולל בין אלף לעשרת אלפים רשומות בחלוקה יחידה של אימון, בלי פיצול מובנה למבחן או אימות. כל רשומה כוללת את הבעיה המקורית ואת תהליך ההיסק שנוצר בצורה סינתטית או מעובדת. במאגר יש גם את קובצי הריצה main.py וקובץ ההגדרות pipeline.yaml, כך שאפשר לראות את הקוד המדויק שייצר את הפלט ולשחזר אותו עצמאית.

מתאים ל

  • אימון מודל קטן לחשיבה

    כוונון עדין של מודלים קומפקטיים כדי שילמדו להסביר בעיות שלב אחר שלב.

  • יצירת דוגמאות לפרומפטים

    שליפת פתרונות מובנים לשימוש כהדגמות בתוך פרומפטים מורכבים במתמטיקה.

  • בדיקת יכולת הסקה לוגית

    בחינה של מודלים מול תהליכי פתרון מפורטים במקום בדיקת התוצאה בלבד.

איפה זה נופל

כל הטקסט כאן באנגלית בלבד ואין בו שום התאמה לחשבון בעברית או למונחים מקומיים. כרטיס הדאטהסט לא מפרט איזה מודל שפה בדיוק ייצר את שלבי ההיסק, מה שמקשה לדעת אילו שגיאות לוגיות סמויות נכנסו פנימה. בנוסף, חסרה חלוקת בדיקה רשמית, כך שתצטרכו לפצל את הנתונים לבד כדי למנוע דליפת מידע בזמן האימון.

שאלות
נפוצות

האם מותר להשתמש בדאטהסט הזה במוצר מסחרי?

כן, הרישיון המוגדר במאגר הוא MIT. הרישיון הזה מתיר שימוש מסחרי מלא, כולל אימון מודלים סגורים שמיועדים למכירה. התנאי היחיד הוא שמירת הודעת זכויות היוצרים והרישיון המקורי.

האם יש בדאטהסט הזה תוכן בעברית?

לא, כל השאלות ונימוקי הפתרון כתובים באנגלית בלבד. המקור הוא GSM8K האמריקאי, כך שגם הניסוחים והשמות משקפים הקשר תרבותי דובר אנגלית. אם המטרה היא לעבוד בעברית, תצטרכו לתרגם את הנתונים ולבדוק את איכות התרגום.

איך הדאטהסט הזה שונה מ־GSM8K המקורי של OpenAI?

המאגר המקורי הכיל שאלות עם פתרונות קצרים יחסית. כאן הנתונים עברו הרחבה בעזרת כלי שנקרא distilabel, כדי לייצר הסברים מפורטים ומובנים יותר לכל צעד בדרך לפתרון. המטרה היא לא רק להגיע לתשובה הסופית, אלא ללמד את המודל לפרק את הבעיה.

כמה שטח אחסון הדאטהסט הזה דורש?

המאגר קטן מאוד וכולל קובץ Parquet יחיד שמכיל בין אלף לעשרת אלפים שורות. ההורדה לוקחת שניות בודדות ולא דורשת חומרה מיוחדת או נפח זיכרון משמעותי. אפשר לטעון ולעבד אותו בקלות גם על מחשב נייד פשוט.

איך טוענים

טוענים אותו ישירות בעזרת datasets של Hugging Face דרך השם thesven/gsm8k-reasoning בלי צורך בטוקן או באישור גישה. הנתונים שמורים כקובץ Parquet בודד, כך שההורדה מהירה מאוד ותופסת מעט זיכרון. מי שרוצה להריץ מחדש את תהליך ההפקה יכול להתקין את distilabel ולהשתמש ישירות בסקריפט main.py שמופיע במאגר.

from datasets import load_dataset

ds = load_dataset("thesven/gsm8k-reasoning")

הרישיון

הרישיון הוא MIT, מה שאומר שמותר להשתמש בו לצרכים מסחריים, לשנות אותו ולשלב אותו במוצרים סגורים. מודל שתאמנו עליו לא כבול לדרישות שיתוף תחת אותו רישיון, אבל חובה לצרף את תנאי הרישיון המקוריים ואת מתן הקרדיט כחלק מההפצה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗