GPT
O

Omni-MATH

קוד פתוח

KbsdJamesapache-2.02024-09-14

  • math
  • olympiads

מאגר של אלפי שאלות מתמטיות ברמת אולימפיאדה, שמיועד לבחון מודלים חזקים במקומות שבהם מבחנים ישנים כבר מגיעים לתקרה. מי שרוצה להבין איפה מודל חשיבה נשבר ימצא כאן את הגבול האמיתי.

  • 6,328הורדות בחודש
  • 132לייקים

מה זה

המאגר כולל 4,428 שאלות מתמטיות ברמת תחרויות בינלאומיות, ללא תחומים אחרים כמו פיזיקה או מדעי המחשב. כל בעיה מתוייגת לפי תחום ספציפי מתוך 33 תתי תחומים שונים, ומדורגת על פני סולם של עשר רמות קושי. המטרה של המבנה הזה היא לאפשר חיתוך מדויק של ביצועי המודל לפי נושא ועומק החשיבה הנדרש.

הקובץ המרכזי מוגדר כסט בדיקה ומגיע בפורמט JSONL. הנתונים מתמקדים אך ורק בבעיות אולימפיאדה מתמטיות מתקדמות, שנאספו במטרה להחליף מבחנים קיימים כמו GSM8K או MATH, שמודלים מודרניים כבר פותרים כמעט במלואם.

מתאים ל

  • הערכת מודלי חשיבה

    בדיקת יכולות הסקת מסקנות ופתרון בעיות קיצון במודלים מתקדמים.

  • ניתוח חולשות לפי תחום

    השוואת ביצועים על פני 33 תתי תחומים שונים במתמטיקה מתקדמת.

  • ולידציה סופית לפיתוח

    מבחן ביצועים מסכם שמוודא שהמודל לא נעצר בתקרת הזיהוי של סטים ישנים.

איפה זה נופל

המאגר כולו באנגלית בלבד ואין בו שום תמיכה בעברית. בנוסף, מדובר בסט בדיקה של 4,428 שאלות בלבד, כך שהוא לא מתאים לאימון מודלים מאפס אלא רק להערכה או לפיין טיונינג ממוקד מאוד. אם המוצר שלכם פותר בעיות חשבון פשוטות או מתמטיקה יומיומית, אין טעם לבדוק אותו כאן. השאלות פה נמצאות ברף התחרותי הגבוה ביותר, והן מיועדות למודלים ייעודיים לחשיבה מתמטית עמוקה.

שאלות
נפוצות

האם המאגר כולל תוכן בעברית?

לא. הנתונים קיימים באנגלית בלבד. אם תרצו לבחון בעיות בעברית, תצטרכו לתרגם את השאלות בעצמכם ולוודא שהמונחים המדעיים לא השתבשו בתהליך.

במה הוא שונה ממאגרים כמו MATH או GSM8K?

המאגרים הישנים הפכו לקלים מדי עבור מודלי שפה חדישים שמגיעים בהם לדיוק של מעל תשעים אחוז. המאגר הזה מתמקד רק ברמת אולימפיאדה ומחולק לעשר רמות קושי שונות כדי לאתגר גם מודלים חזקים במיוחד.

האם מותר להשתמש בנתונים לפרויקט מסחרי?

כן, רישיון apache-2.0 מאפשר שימוש מסחרי מלא. כל מה שנדרש מכם הוא לתת קרדיט ליוצרים המקוריים ולצרף את עותק הרישיון.

כמה רשומות יש במאגר ואיך בודקים את הפתרונות?

יש בו 4,428 בעיות תחרותיות שמרוכזות בקובץ בדיקה בודד. לצורך בדיקת התשובות של המודל, המפתחים יצרו כלי ייעודי בשם Omni-Judge שזמין גם הוא בפלטפורמה.

איך טוענים

טוענים את הנתונים ישירות דרך ספריית datasets של Hugging Face עם הפקודה load_dataset("KbsdJames/Omni-MATH"). אין צורך בבקשת גישה מיוחדת או באישור ידני של היוצרים. המאגר כולל בסך הכל שלושה קבצים, כשהנתונים עצמם נמצאים בקובץ test.jsonl, ולכן תהליך ההורדה והטעינה מסתיים תוך שניות בודדות בלי לתפוס נפח משמעותי בדיסק. היוצרים מספקים גם כלי הערכה בקוד פתוח בשם Omni-Judge לצורך בדיקת התוצאות.

from datasets import load_dataset

ds = load_dataset("KbsdJames/Omni-MATH")

הרישיון

המאגר שוחרר תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי ומחקרי חופשי, מאפשר שינויים והפצה מחדש, ואינו מחייב אתכם לשחרר את המוצר או המודל שלכם תחת אותו רישיון. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והייחוס המקורי של הפרויקט.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗