academic-chains

מה זה

המאגר כולל 1,975 דוגמאות בפיצול אימון יחיד, המבוססות על מאמרים מדעיים פתוחים מארכייב בתחומי ביולוגיה, כלכלה, פיזיקה, מתמטיקה, מדעי המחשב, מימון כמותי, סטטיסטיקה והנדסת חשמל. הטקסטים חולצו מקובצי פי די אף באמצעות כלי ייעודי והומרו למרקדאון. משם, מודלים שונים דוגמת גרסאות של ג'מיני, לאמה 4 ודיפסיק ייצרו שרשראות חשיבה בשני מבנים, שרשרת ארוכה אחת או מספר שרשראות קצרות, שמנסות לחקות חשיבה והשערות של חוקר טרם הניסוי.

כל רשומה מכילה מזהי מאמר, שמות מחברים, תאריכים, קטגוריות מדעיות ושיחה בין משתמש לעוזר הכוללת תגיות חשיבה. בתוך התהליך הופעל סינון אוטומטי שהסיר מעל 38 אחוז מהדור המקורי בגלל תגיות חסרות, קטיעות או אזכורים ישירים של המאמר. לאחר מכן עברו הרשומות אימות על ידי שלושה מודלים שונים שבדקו האם הרצף מציג חשיבה השערתית או רק מדווח על תוצאות שהושגו במאמר, וצירפו ציון התאמה והסבר לכל דוגמה.

מתאים ל

• אימון שרשראות חשיבה

  לימוד מודלים לייצר נימוקים מדעיים והשערות מנומקות בתוך תגיות ייעודיות לפני הפקת התשובה.

• שליטה בתקציב חשיבה

  שימוש במספר הטוקנים הממוצע כדי לאמן מודל להתאים את אורך החשיבה לפי מגבלה שמוגדרת בפרומפט.

• הערכת הסקת מסקנות במדע

  בדיקת יכולת המודל לייצר היפותזות בתחומי פיזיקה, מתמטיקה וביולוגיה על בסיס שאלות מדעיות מורכבות.

איפה זה נופל

ההטיה המרכזית נובעת מכך שהכל מבוסס על אנגלית ועל מאמרי ארכייב בלבד, כך שתחומים ללא ייצוג חופשי לא קיימים כאן. מעבר לכך, אימות הנתונים נעשה כולו באמצעות מודלים שונים ולא על ידי בני אדם, כשרק בכ־71 אחוז מהמקרים הייתה הסכמה מלאה בין שלושת המאמתים. מודלים מועדים להזיות, וקיים סיכון של דיווח תוצאות בדיעבד במקום חשיבה השערתית אמיתית, במיוחד בדוגמאות שנוצרו על ידי לאמה 4 שהציג שיעור התאמה נמוך של כ־54 אחוז בלבד.

איך טוענים

טוענים את המאגר ישירות דרך ספריית הדאטהסטס באמצעות המזהה marcodsn/academic-chains. הגישה פתוחה לגמרי ללא צורך באישור, והנתונים שמורים בקובצי פרקט וג'ייסונל. לצורך אימון כדאי לשים לב לשדה conversations שמכיל את תגיות החשיבה, ולשדה avg_thinking_tokens שמשמש להגדרת תקציב חשיבה בפרומפט. מומלץ לסנן את הנתונים לפי השדה suitability או suitability_score כדי לוודא שאתם מאמנים רק על דוגמאות שעברו את סף האימות המבוקש.

from datasets import load_dataset

ds = load_dataset("marcodsn/academic-chains")

הרישיון

המאגר מופץ תחת רישיון אפאצ'י 2.0. הרישיון מאפשר שימוש מסחרי מלא, שינוי והפצה של הנתונים ושל מודלים שאומנו עליהם, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי. אין כאן חובה לשתף מודלים נגזרים תחת אותו רישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗