GPT
C

Claude-opus-4.7-TraceInversion-5000x

קוד פתוח

Jackrongapache-2.02026-05-19

  • reasoning
  • trace-inversion
  • synthetic-data
  • chain-of-thought
  • distillation

שחזור שרשראות חשיבה מפורטות מתוך תקצירי החשיבה הדחוסים של קלוד. מתאים למי שמאמן מודלים קטנים על יכולות היסק ורוצה צעדי פתרון מלאים במקום סיכומים קצרים.

  • 749הורדות בחודש
  • 83לייקים

מה זה

המאגר מכיל 5,000 רשומות המיועדות לאימון מודלים על תהליכי חשיבה מורכבים. במקור, הפלט המסחרי של קלוד 4.7 מקס סיפק בועות חשיבה מקוצרות בלבד, שכללו תקצירים דחוסים של פתרון הבעיה יחד עם התשובה הסופית. כדי לגשר על הפער הזה, הנתונים נלקחו ממאגר מקור בשם lordx64/reasoning-distill-claude-opus-4-7-max, עברו ניקוי שדות וסינון קפדני, ולאחר מכן הופעלו תחת מודל שחזור ייעודי בשם Jackrong/Trace-Inverter-4B.

באמצעות תהליך היפוך עקבות תחת עקרונות נגאנטרופיה, המערכת לקחה את השאלה המקורית, התקציר והתשובה הסופית, ובנתה מהם שרשרת חשיבה מלאה, עמוקה ומפורטת של שלב אחר שלב. כל דוגמה כוללת את השאלה המקורית, תקציר החשיבה המקורי, התשובה המוגמרת, ושרשרת הצעדים המורחבת שכוללת בדיקות ביניים ואימות חישובי. הנתונים מתמקדים במשימות יצירת טקסט והיסק לוגי ומתמטי.

מתאים ל

  • אימון מודלים קטנים

    אימון SFT להקניית הרגלי פתרון בעיות ופירוק שלבים במודלים עד 9B.

  • כוונון באמצעות DPO

    שימוש בשרשראות המשוחזרות מול תקצירים קצרים ליצירת העדפת פתרון מפורט.

  • מחקר שחזור היסק

    בדיקת איכות שחזור של שרשראות לוגיות מתוך פלטים מקוצרים של מודלים סגורים.

איפה זה נופל

כל שרשראות החשיבה כאן הן סינתטיות לחלוטין ושוחזרו באמצעות מודל חיצוני של 4B פרמטרים, כך שאין שום ערובה שהן מייצגות את צעדי החשיבה האמיתיים של קלוד. יש סכנה ממשית להזיות לוגיות סמויות שהשתרבבו לשלבי הביניים של הפתרון. בנוסף, המאגר קטן מאוד ומונה רק 5,000 דוגמאות. אין בו עברית, והוא מוגבל לשפות כמו אנגלית, סינית, קוריאנית, רוסית, יפנית וספרדית בלבד. חייבים לדגום ולבדוק ידנית את שלבי הביניים לפני אימון כדי לא להכניס טעויות היסק למודל.

שאלות
נפוצות

האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?

הרישיון המוגדר במאגר הוא apache-2.0, והוא מתיר שימוש מסחרי מלא ללא הגבלת רישוי נגזרת. עם זאת, יש לקחת בחשבון שהנתונים מקורם בפלטים מזוקקים של קלוד, ולכן כדאי לבדוק את תנאי השירות של אנתרופיק לגבי אימון מודלים מתחרים.

האם הדאטהסט כולל שאלות בעברית?

לא, עברית לא נכללת במאגר הזה. רשימת השפות המדווחת כוללת אנגלית, סינית, קוריאנית, רוסית, יפנית וספרדית בלבד, כך שלא תוכלו להסתמך עליו לאימון ישיר של מודלים בעברית.

במה הוא שונה מדאטהסטים אחרים של זיקוק קלוד?

במקום להסתפק בתקצירי החשיבה המקוצרים שה־API של קלוד מחזיר, המאגר הזה שחזר שרשרת חשיבה מלאה ומפורטת לכל דוגמה. התהליך מתבסס על מחקר היפוך עקבות ומשתמש במודל ייעודי כדי לייצר שלבי בדיקה ואימות שחסרים בפלטים המקוריים.

איך טוענים

טוענים את הקובץ claude-opus-4.7-traceInversion-5000x.jsonl ישירות מהמאגר בעזרת ספריית datasets או קריאת שורות פשוטה בפייתון, והוא מגיע דחוס כקובץ jsonl.gz לצורך הזרמה מהירה. אין צורך באישור גישה מיוחד כדי להוריד. הרשומות מחזיקות את שאלת המקור, את בועת התקציר, את שרשרת החשיבה המשוחזרת ואת התשובה הסופית, ומומלץ לקחת לאימון בעיקר את שרשרת החשיבה יחד עם השאלה.

from datasets import load_dataset

ds = load_dataset("Jackrong/Claude-opus-4.7-TraceInversion-5000x")

הרישיון

המאגר מופץ תחת רישיון apache-2.0 שמתיר שימוש מסחרי, שינוי והפצה, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי. המשמעות היא שאתם רשאים לאמן מודלים על הדאטהסט הזה ולהשתמש בהם מסחרית, כל עוד אתם עומדים בדרישות הייחוס של המאגר ובתנאי השימוש של שירותי המקור שהפיקו את הטקסט הראשוני.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗