MathInstruct
קוד פתוחTIGER-Labmit2023-09-11
אוסף הוראות מתמטיות שמשלב פתרונות טקסטואליים שלב אחר שלב לצד קטעי קוד מריצים. הוא נועד למי שרוצה לאמן מודל שמבין חישובים מורכבים ולא רק מדקלם נוסחאות.
- 37,295הורדות בחודש
- 307לייקים
מה זה
המאגר מאגד נתונים מתוך 13 מקורות שונים של הנמקה מתמטית, כששישה מתוכם נוצרו במיוחד במסגרת הפרויקט הזה. המבנה כולל הוראות ופתרונות במגוון תחומים, עם דגש על שילוב בין שני סגנונות פתרון: שרשרת מחשבה מילולית ופתרון מבוסס תוכנה שנעזר בקוד פייתון לביצוע החישוב בפועל.
בין המקורות שמהם נאסף החומר תמצאו שאלות ממאגרים מוכרים כמו GSM8K, MATH, AQuA-RAT, TheoremQA ו־MathQA, יחד עם נתונים מפרויקטים כמו Camel-Math ו־NumGLUE. הדגש העיקרי כאן הוא כיסוי רחב של תחומי מתמטיקה, החל מבעיות מילוליות פשוטות ועד הוכחות ומשפטים מתקדמים שמצריכים לוגיקה קפדנית.
מתאים ל
- אימון מודל מתמטי היברידי
כיוונון מודלים ליצירת שרשרת מחשבה שמשלבת מלל חופשי לצד קוד פייתון שמחשב את התוצאה.
- פתרון בעיות מדעיות בקוד
לימוד מודלים קיימים לתרגם שאלות מילוליות מורכבות לסקריפטים קצרים שפותרים את הבעיה.
- הערכת יכולות לוגיות
בדיקת ביצועים של מודלי שפה על מגוון רחב של תחומי מתמטיקה ומשפטים מורכבים.
איפה זה נופל
הבעיה הגדולה ביותר כאן היא תסבוכת הרישיונות. הדף הראשי מדווח על רישיון MIT, אבל בפועל הוא מכיל תת מאגרים ברישיונות שונים לחלוטין, כולל Camel-Math שמחייב שימוש לא מסחרי ו־GSM8K-RFT שלא מציין רישיון כלל. מי שבונה מוצר מסחרי לא יכול להשתמש בקובץ כמו שהוא.
בנוסף, כל הטקסטים וההוראות כתובים באנגלית בלבד. אם המטרה היא עבודה בעברית, תצטרכו לתרגם את השאלות וההסברים. הכרטיס גם לא מפרט תהליכי סינון של שגיאות חישוב בתוך הפתרונות המקוריים, ולכן תיתקלו בהזיות או בחישובים לא מדויקים בתוך הדוגמאות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מסחרי?
לא במצבו הנוכחי. אף על פי שהמאגר עצמו מסומן כ־MIT, הוא מכיל בפנים את Camel-Math שמוגבל ברישיון לשימוש לא מסחרי בלבד, ומקור נוסף שאין לו רישיון רשום. אם אתם מתכננים מוצר מסחרי, תצטרכו לסנן החוצה את החלקים האלה מתוך הקובץ לפני האימון.
האם הנתונים כוללים עברית?
לא, כל הנתונים במאגר כתובים באנגלית בלבד. אם יש לכם צורך במודל שעונה בעברית, תידרשו לתרגם את ההוראות ואת שלבי הפתרון בעצמכם, או להסתמך על יכולות התרגום הכלליות של מודל הבסיס שלכם.
מה מייחד את הדאטהסט הזה ממאגרי מתמטיקה אחרים?
הוא משלב באופן מכוון בין שני סגנונות פתרון: הסבר מילולי צעד אחר צעד וכתיבת קוד שמבצע את החישוב בפועל. בנוסף, הוא מאחד 13 מקורות נתונים שונים תחת פורמט הוראות אחיד במקום שתצטרכו לאסוף אותם בנפרד.
כמה מקום ומשאבים צריך כדי לטעון אותו?
מדובר בקובץ JSON יחיד שמכיל בין 100 אלף למיליון דוגמאות. אפשר להוריד ולעבד אותו בקלות על מחשב פיתוח רגיל ללא צורך בחומרה כבדה או בזיכרון חריג.
איך טוענים
הנתונים יושבים בקובץ MathInstruct.json מתוך שלושה קבצים במאגר, כך שטוענים אותם ישירות דרך ספריית הדאטהסטס הרגילה בפייתון או בקריאה ישירה של הקובץ. אין צורך בבקשת גישה מיוחדת, וההורדה פתוחה לחלוטין לכל מי שיש לו חיבור לרשת.
היקף הנתונים נע בין 100,000 למיליון רשומות, כך שלא מדובר בקובץ כבד שדורש שרתים מיוחדים לפריסה ראשונית. לפני שמתחילים לאמן, כדאי לסנן את השדות לפי מקור המידע כדי להפריד בין פתרונות קוד לפתרונות מילוליים, או כדי לנקות מקורות ספציפיים שלא מתאימים לצרכים שלכם.
from datasets import load_dataset
ds = load_dataset("TIGER-Lab/MathInstruct")הרישיון
הפרויקט מוגדר כרישיון MIT, אבל הטבלה מראה שהוא מורכב מחומרים מגוונים. חלק מהמקורות מוגדרים תחת MIT או Apache 2.0, אך Camel-Math מוגבל לשימוש לא מסחרי בלבד, ואחד המקורות כלל לא מציין רישיון. המשמעות היא שאסור לאמן עליו מודל למטרות רווח בלי לסנן קודם את המקורות הבעייתיים. חובה גם לתת קרדיט ליוצרי המאגר ולמאגרים המקוריים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש