Logics-STEM-SFT-Dataset-Open-1.6M
קוד פתוחLogics-MLLMcc-by-nc-4.02026-01-05
מאגר לאימון SFT מבוסס שרשראות חשיבה ארוכות בתחומי מדעים מדויקים והנדסה. הוא מרכז 1.6 מיליון דוגמאות שזוקקו ממודל ענק עבור מי שרוצה לשפר יכולות חשיבה מתמטיות.
- 645הורדות בחודש
- 32לייקים
מה זה
המאגר מורכב מזוגות של שאלות ותשובות שמכילות פתרונות ארוכים ומפורטים בתחומי מתמטיקה, פיזיקה, כימיה, ביולוגיה, הנדסה ומדעי המחשב. השאלות נאספו ממאגרים פתוחים ותחרויות מוכרות, כולל NuminaMath, GSM8K, GPQA, ומאגרי פוסט-טריינינג נוספים. כל התשובות נוצרו מחדש באמצעות זיקוק ממודל Qwen3-235B-A22B-Thinking-2507.
תהליך הניקוי כלל סינון שאלות לא ברורות, הסרת כפילויות מדויקות וקרובות, ובדיקת דליפה מול מבחני ביצועים נפוצים בעזרת MinHash ו־n-gram. המפתחים השתמשו בדגימה מרובצת שמסתמכת על אורך התשובה כדי לאזן בין רמות קושי שונות. הגרסה הזו מכילה 1.6 מיליון דוגמאות מתוך מאגר מקורי של 2.2 מיליון, משום שחלק מהנתונים שנגזרו מספרים הושמטו עקב מגבלות רישוי.
מתאים ל
- אימון SFT להסקה מתמטית
כוונון עדין של מודלי קוד פתוח ליצירת שרשראות חשיבה מפורטות במתמטיקה ובפיזיקה.
- מחקר על דחיסת יכולות חשיבה
בדיקת יכולת ההעברה של שרשראות חשיבה ממודל ענק של 235 מיליארד פרמטרים למודלים קטנים.
- בניית מאגרי הערכה פנימיים
שימוש בשאלות המסוננות כבסיס לבדיקת ביצועי הסקה אקדמיים של מודלים שונים בארגון.
איפה זה נופל
כל התשובות והפתרונות מיוצרים באופן סינתטי על ידי מודל שפה יחיד, כך שהטיות או טעויות חשיבה שמאפיינות את המודל המזקק עלולות לחלחל לכל הדאטהסט. המאגר מתמקד כולו בשפה האנגלית ואינו כולל שאלות או הסברים בעברית. בנוסף, חסר כאן חלק שלם ממקורות ספרותיים שהיה בגרסה המלאה, מה שעשוי להשפיע על כיסוי התחומים המורכבים יותר בהנדסה ובמדעים.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא. הרישיון הוא cc-by-nc-4.0, שאינו מתיר שימוש מסחרי. מודל שתאמנו על הנתונים הללו לא יוכל לשרת מוצר מסחרי או להימכר בתשלום.
האם יש במאגר שאלות או פתרונות בעברית?
לא, המאגר נאסף ממקורות באנגלית בלבד. אם המטרה היא לאמן מודל להסקה מתמטית בעברית, תצטרכו לתרגם את השאלות ולייצר שרשראות חשיבה מחדש.
מה ההבדל בין גרסת 1.6M לגרסת 2.2M שמוזכרת בתיעוד?
גרסת 2.2M כוללת נתונים סינתטיים שנלקחו מספרים, שכונו DLR-Book. בגלל מגבלות זכויות יוצרים ורישוי, החלק הזה הוסר ושוחררו רק 1.6 מיליון דוגמאות.
איך המפתחים וידאו שהדאטהסט לא כולל תשובות למבחנים ידועים?
בוצע תהליך ניקוי ייעודי שהשווה את השאלות למאגרי מבחן פופולריים באמצעות חפיפת n-gram ו־MinHash. דוגמאות שהיו קרובות מדי למבחני ההערכה הוסרו לחלוטין מהאימון.
איך טוענים
הנתונים מחולקים לעשרה קבצי jsonl בתיקיית המידע. אפשר לטעון אותם בספריית datasets של Hugging Face ללא צורך באישור גישה מראש. שימו לב שהדוגמה בקוד של המפתחים מפנה למזהה של גרסת 2.2M, אבל כדי לעבוד עם הקבצים הפתוחים בפועל צריך להשתמש במזהה המדויק Logics-MLLM/Logics-STEM-SFT-Dataset-Open-1.6M.
from datasets import load_dataset
ds = load_dataset("Logics-MLLM/Logics-STEM-SFT-Dataset-Open-1.6M")הרישיון
המאגר מופץ ברישיון cc-by-nc-4.0. המשמעות פשוטה, מותר להשתמש בנתונים למחקר ולהתנסות פנימית, אך חל איסור מוחלט על שימוש מסחרי מכל סוג. אימון של מודל המיועד למוצר מסחרי או מכירת שירות המבוסס עליו אסורים תחת תנאי הרישיון הזה.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא