OmniThought-0528
קוד פתוחalibaba-paiapache-2.02025-06-19
המאגר מרכז 365,000 שרשראות חשיבה במדעים, תכנות ומתמטיקה לזיקוק מודלים. הוא מיועד למי שרוצה לאמן מודל לנמק צעד אחר צעד על בסיס פלטים מודרכים ומסוננים.
- 92הורדות בחודש
- 25לייקים
מה זה
עליבאבא אספו שאלות ממקורות ציבוריים בתחומי המתמטיקה, הקוד והמדעים, וייצרו עבורן פתרונות בעזרת המודלים DeepSeek-R1 ו־QwQ-32B. כל רשומה כוללת שאלה ואת שרשרת ההסקה המלאה שלה. הסינון בוצע באמצעות שיפוט אוטומטי של מודל שפה, שאישר רק שרשראות שנמצאו נכונות.
הייחוד כאן הוא הציון הכפול שמוצמד לכל פתרון. הנתונים מתועדים לפי מדד אורך ההסבר מ־0 עד 9, ומדד קושי קוגניטיבי מ־0 עד 9 שמבדיל בין חישוב אריתמטי פשוט להוכחות מורכבות או תכנות דינמי. הדירוג הזה מאפשר לחתוך מהמאגר בדיוק את רמת הפירוט והעומק שמתאימה לגודל המודל שלכם.
מתאים ל
- זיקוק מודלי הסקה קטנים
אימון מודלים קלים על שרשראות חשיבה ברמת פירוט נמוכה שמתאימה למגבלות הגודל שלהם.
- אימון מודלי קוד ומתמטיקה
שיפור ביצועים במשימות תכנות ופתרון בעיות מדעיות באמצעות דוגמאות בדרגת קושי גבוהה.
- סינון דאטה לאימון מותאם
שליפת דוגמאות לפי רמת מורכבות קוגניטיבית מוגדרת מראש כדי לבנות תוכנית לימוד מדורגת.
איפה זה נופל
הסינון התבסס לחלוטין על מודל שפה שופט ולא על בדיקה אנושית, מה שאומר ששגיאות מתוחכמות יכלו להסתנן פנימה. מעבר לכך, כל התוכן נוצר על ידי מודלים כמו DeepSeek-R1, כך שהוא נושא את ההטיות וסגנון החשיבה הייחודי שלהם.
הכרטיס לא מציין תמיכה בשפות נוספות מעבר לאנגלית, כך שלאימון בעברית הוא לא יועיל בלי תרגום. בנוסף, חסר פירוט על המקורות הציבוריים המדויקים שמהם נלקחו השאלות המקוריות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, רישיון Apache 2.0 מאפשר שימוש מסחרי מלא כולל אימון מודלים סגורים. הדרישה העיקרית היא מתן קרדיט ושמירה על נוסח הרישיון המקורי.
האם יש במאגר שאלות בעברית?
הכרטיס אינו מזכיר עברית ומתמקד במשימות קוד, מדע ומתמטיקה באנגלית. מי שבונה מודל לשוק המקומי יצטרך לתרגם את השאלות וההסברים או להשתמש בו לאימון יכולות לוגיות בלבד.
איך נוצרו הפתרונות וההסברים?
הפתרונות נוצרו בצורה סינתטית באמצעות המודלים DeepSeek-R1 ו־QwQ-32B על בסיס בעיות שנאספו ברשת. לאחר מכן, מערכת שיפוט מבוססת מודל שפה בדקה את נכונות התשובות וסיננה הסברים שגויים.
במה הוא שונה מדאטהסטים אחרים של Chain of Thought?
היתרון כאן הוא הציון הכפול שמלווה כל תשובה, שמודד הן את רמת הקושי והן את מידת האריכות של ההסבר. זה מאפשר לחתוך את הנתונים ולהתאים את עומק ההסקה לממדי המודל שאתם מאמנים.
איך טוענים
הנתונים יושבים בקובץ jsonl בשם OmniThought-R1-0528 בתוך תיקיית data, וזמינים להורדה ישירה בלי צורך בטופס הרשאה מיוחד. הטעינה פשוטה באמצעות ספריית datasets של Hugging Face או קריאה ישירה של קובץ הטקסט.
המבנה של כל שורה מבוסס על שדה שאלה ומערך של תשובות. בכל תשובה מחכים השדות full_response לצד הציונים המספריים Cognitive_Difficulty ו־Reasoning_Verbosity, שכדאי לסנן לפיהם כבר בשלב הטעינה.
from datasets import load_dataset
ds = load_dataset("alibaba-pai/OmniThought-0528")הרישיון
המאגר מופץ תחת רישיון Apache 2.0, שמתיר שימוש מסחרי, שינוי והפצה של הנתונים ושל מודלים שאומנו עליהם, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי. אין חובה לשתף את השינויים שלכם תחת אותו רישיון.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים