UltiMath

מה זה

מדובר באוסף ענק שמכיל כ־3.7 טריליון טוקנים, שנוצרו כולם באמצעות סקריפט פייתון אוטומטי על ידי מפתח בשם רומן. כל רשומה כוללת בעיה מתמטית, שלבי פתרון, הסבר מילולי קצר, תשובה סופית ורמת קושי. הדוגמאות מציגות בעיקר שאלות חשבון בסיסיות, אלגברה ופתרון משוואות, שנועדו להמחיש היסק שלב אחר שלב.

המידע חולק לקבצי פארקט רבים, כאשר כל קובץ כזה מכיל חמישה מיליון שורות. היוצר לא ביצע שום סינון או ניקוי על הפלט, אלא העלה את התוצרים הגולמיים ישירות מהסקריפט אל המאגר, כך שהאיכות והגיוון נשענים לחלוטין על התבניות שהוגדרו מראש בקוד.

מתאים ל

• אימון מקדים למודלי שפה

  שילוב מיליארדי דוגמאות החישוב כחלק מדאטהסט הבסיס כדי ללמד את המודל לוגיקה וחישוב רב שלבי.

• כוונון עדין למתמטיקה

  שימוש בחלק מהמקטעים לטובת חידוד יכולת פתרון משוואות וחישובים במודלים קטנים יותר.

• מחקר על דאטה סינתטי

  בדיקת ההשפעה של חומר שנוצר כולו בסקריפטים על יכולת ההכללה וההיסק של מודלים פתוחים.

איפה זה נופל

החומר כולו נוצר באנגלית מתוך תבניות אחידות, ללא עברית כלל. אין פה כמעט נגיעה בנושאים מתקדמים כמו חשבון אינפיניטסימלי או הוכחות מורכבות. חשיפת יתר של מודל לדאטהסט הזה עלולה לפגוע בשטף השפה במשימות כלליות ולגרום להתאמת יתר של תבניות חשבוניות, בייחוד כשאין שום סינון שמוודא שאין טעויות שנוצרו בסקריפט.

איך טוענים

המאגר מחולק לאלפי קבצי פארקט תחת תיקיית shards, ללא צורך באישור גישה מיוחד. בגלל המשקל הכבד, אי אפשר פשוט לטעון אותו לזיכרון של מחשב רגיל, ותצטרכו לעבוד בסטרימינג או להוריד מקטעים בודדים לפי הצורך. השדות המרכזיים בכל שורה הם problem, steps, explanation, answer ו־difficulty.

from datasets import load_dataset

ds = load_dataset("DataMuncher-Labs/UltiMath")

הרישיון

הרישיון הרשום הוא CC-BY-SA 4.0. המשמעות היא שאתם רשאים להשתמש במידע, כולל למטרות מסחריות, כל עוד אתם נותנים קרדיט ליוצר. עם זאת, סעיף השיתוף באותם תנאים מחייב שכל יצירה נגזרת תופץ תחת אותו רישיון בדיוק, מה שעלול לכבול מודלים שתאמנו עליו לדרישת קוד פתוח זהה.

• שימוש מסחרי
• שינוי הקוד
• חובת שיתוף באותו רישיון

הרישיון המלא ב־Hugging Face ↗