Dolci-Think-RL-32B
קוד פתוחallenaiרישיון לא דווח2025-11-20
המאגר מרכז מעל מאה אלף פרומפטים שמיועדים לאימון מודלי חשיבה בשיטות למידת חיזוק. הוא נבנה במיוחד כדי לחזק ביצועים במתמטיקה, כתיבת קוד ומעקב אחרי אילוצים מורכבים.
- 504הורדות בחודש
- 27לייקים
מה זה
מדובר באוסף של 102,026 דוגמאות ששימשו לאימון המודל Olmo-3-32B-Think. המבנה שלו מחולק לארבע קבוצות עיקריות: מתמטיקה עם 30,182 דוגמאות, משימות מעקב אחר הוראות מרובות אילוצים עם 29,847 דוגמאות, תכנות עם 21,289 דוגמאות, ומשימות חשיבה כלליות בשיחה עם 20,708 דוגמאות.
התוכן נאסף משורה ארוכה של מקורות קיימים, בהם OMEGA, AceCoder, Tulu 3 ושיחות מתוך WildChat English. הנתונים עברו סינון קפדני לפי נושאים ומילות מפתח, הסרת כפילויות ובדיקות בטיחות. בתחום התכנות הריצו בדיקות מבוססות הרצת קוד כדי לוודא תקינות, בחלק של Tulu 3 בוצע סינון מבוסס מדד F1, ובחלק של האילוצים בוצע נירמול מלא כדי לאפשר בדיקה אוטומטית של התוצאות.
מתאים ל
- אימון מודלי חשיבה בחיזוק
אימון מודלים להסבר שלבי חשיבה ופתרון בעיות באמצעות מערכות תגמול מאומתות.
- שיפור ביצועי מתמטיקה וקוד
חיזוק יכולות חישוב, אלגברה וכתיבת קוד שנבדק מראש מול טסטים מדויקים.
- עמידה בהוראות מורכבות
בניית מודלים שמסוגלים להקפיד על רשימת אילוצים קשיחה בפורמטים מוגדרים.
איפה זה נופל
אין כאן תוכן בעברית. המקורות המרכזיים מתבססים על אנגלית בלבד, כולל מקורות השיחה כמו WildChat English. מעבר לכך, חלק ניכר מנתוני התכנות מגיע ממקורות סינתטיים כמו SYNTHETIC-2, מה שעלול לייצר דפוסים שחוזרים על עצמם. לפני שמשלבים את המאגר באימון למוצר אמיתי, צריך לקחת בחשבון שהנתונים ממוקדים בעיקר במשימות שניתן לתקף באופן מובהק וחד משמעי, ולא בהכרח בשיחה טבעית או מורכבת.
אותה משפחה
Dolci-Think יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט הזה לפיתוח מסחרי?
קיימת כאן אי בהירות. המטא דאטה הרשמי מציין שלא דווח רישיון, בעוד שבתיעוד כתוב ODC-BY עם סייג המגדיר אותו לשימוש מחקרי וחינוכי בלבד. אם אתם בונים מוצר מסחרי, מומלץ להסדיר את הנושא מול יוצרי המאגר לפני תחילת האימון.
האם המאגר כולל תמיכה בעברית?
לא. המאגר מורכב ממקורות באנגלית בלבד, כולל מאגרי שיחה כמו WildChat English ומאגרי קוד ומתמטיקה בין לאומיים. לא תמצאו בו נתונים בעברית או התאמה להוראות בשפה זו.
מאיפה הגיעו הנתונים ואיך סיננו אותם?
הנתונים אוגדו ממספר מקורות פתוחים מוכרים בהם AceCoder, OMEGA ודאטהסטים של נמטרון. הסינון כלל הסרת כפילויות ובטיחות, סינון טקסטואלי לפי F1, ובדיקה מבוססת הרצה עבור דוגמאות התכנות כדי להבטיח את תקינות הפתרונות.
מה ההבדל בינו לבין Dolci-Think-RL-7B?
לפי התיעוד המבנה הכללי שלהם זהה לחלוטין. ההבדל היחיד נעוץ ביחסי הערבוב ובמינונים השונים של קבוצות הנתונים, שהותאמו במיוחד לאימון מודל בגודל 32 מיליארד פרמטרים.
איך טוענים
הנתונים שמורים בארבעה קבצי Parquet תחת תיקיית data, בתוך מאגר שכולל בסך הכל שישה קבצים. אפשר לטעון אותם ישירות דרך ספריית datasets בלי צורך לבקש אישור גישה מוקדם או להמתין לאישור ידני. מומלץ לשים לב למבנה הפרומפטים ולאילוצים המוגדרים בכל רשומה, שכן הם מותאמים מראש למערכות תגמול ובדיקה אוטומטית בלמידת חיזוק.
from datasets import load_dataset
ds = load_dataset("allenai/Dolci-Think-RL-32B")הרישיון
במטא דאטה של המאגר הרישיון סומן ככזה שלא דווח, אך בגוף התיעוד נכתב שהוא מופץ תחת רישיון ODC-BY לצורכי מחקר וחינוך בהתאם לקווים המנחים של Ai2. רישיון ODC-BY דורש ייחוס מתאים ליוצרים. הפער בין המטא דאטה לטקסט יוצר אי ודאות משפטית, במיוחד למי שמתכנן שימוש מסחרי במודל שיאומן עליו.