LONGCOT-Refine-500K
קוד פתוחTiinyapache-2.02024-12-31
חצי מיליון דוגמאות שנוצרו במודל Qwen2.5-72B-Instruct על בסיס פרומפטים ממקורות שונים. מתאים למי שרוצה לאמן מודל על שרשראות חשיבה בלי לייצר אותן לבד.
- 80הורדות בחודש
- 51לייקים
מה זה
המאגר מכיל כחצי מיליון רשומות טקסט של תשובות שנוצרו כולן על ידי המודל Qwen2.5-72B-Instruct. כדי להגיע לגיוון בתשובות, מי שבנה את המאגר שילב פרומפטים מכמה מקורות שונים, אם כי הכרטיס לא מפרט בדיוק באילו מקורות מדובר או כיצד הם נבחרו.
מבנה הנתונים נשמר בקובץ jsonl בשם refine_from_qwen2_5.jsonl. אין בכרטיס הסבר על תהליך סינון ידני, בדיקות איכות שנעשו על הפלטים, או חלוקה מוגדרת מראש לחלקי אימון, ולידציה ובדיקה. מדובר בדאטה סינתטי גנרי בלי התמקדות בנושא מסוים, שמיועד בעיקר לניסויי אימון ויצירת נתונים סינתטיים נוספים.
מתאים ל
- אימון שרשראות חשיבה
לימוד מודלים קטנים יותר להפיק תשובות מפורטות ומנומקות באנגלית.
- מחקר על דאטה סינתטי
בדיקת השפעת נתונים שנוצרו במודל Qwen על ביצועי מודלים אחרים.
- יצירת נתונים נוספים
שימוש ברשומות כבסיס לסינון, זיקוק או הרחבה של סטים קיימים.
איפה זה נופל
כל המידע כאן נוצר על ידי מכונה, ולכן הוא כולל אי דיוקים, הזיות והטיות שמגיעות ישירות מהמודל Qwen2.5-72B-Instruct ומהפרומפטים ששימשו כבסיס. הנתונים הם באנגלית בלבד ואין כאן עברית כלל. התוכן הוא גנרי ולא מייצג תחום התמחות ספציפי, מה שעלול להקשות על המודל שלכם להתמודד עם מקרי קצה במציאות. הכרטיס עצמו מדגיש שהמידע מתאים למחקר ולניסויים בלבד ולא מומלץ להעביר אותו ישירות לסביבת ייצור.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
הרישיון המדווח הוא apache-2.0, שמאפשר שימוש מסחרי מלא. יחד עם זאת, הנתונים נוצרו באמצעות Qwen2.5-72B-Instruct, ולכן מומלץ לבדוק את תנאי הרישיון של המודל המקורי לגבי שימוש בפלטים שלו לאימון מודלים מתחרים.
האם יש במאגר נתונים בעברית?
לא. כרטיס הדאטהסט מציין במפורש שהתוכן הוא בעיקר באנגלית. אין במאגר תמיכה או התייחסות לשפה העברית.
איך נאסף המידע?
היוצרים אספו פרומפטים מכמה מקורות איכותיים, והזינו אותם למודל Qwen2.5-72B-Instruct כדי להפיק כחצי מיליון תשובות. שמות המקורות המדויקים ותהליך הסינון אינם מפורטים בכרטיס.
מה הסיכון העיקרי באימון על הנתונים האלה?
מדובר בטקסט סינתטי לחלוטין. הוא יורש את כל הטעויות וההטיות של המודל שיצר אותו, ועלול להוביל לביצועים חלשים מול נתוני אמת שלא דומים לפלטים הממוחשבים.
איך טוענים
טוענים את המאגר ישירות דרך ספריית datasets עם המזהה שלו, או שמורידים ישירות את הקובץ refine_from_qwen2_5.jsonl. הגישה פתוחה לחלוטין ואינה דורשת אישור מיוחד. המאגר כולל שלושה קבצים בלבד. לפני שמתחילים להריץ אימון, כדאי לפתוח כמה שורות בקובץ כדי לראות את שמות השדות המדויקים, שכן כרטיס המאגר לא מציג סכמה רשמית.
from datasets import load_dataset
ds = load_dataset("Tiiny/LONGCOT-Refine-500K")הרישיון
המאגר פורסם תחת רישיון apache-2.0. הרישיון מאפשר שימוש מסחרי, שינוי והפצה, בתנאי ששומרים על הודעת הרישיון המקורית והקרדיט. הוא אינו דורש שיתוף באותו רישיון עבור תוצרים, כך שאפשר עקרונית לאמן מודלים מסחריים על בסיס הנתונים, אך כדאי לוודא שאין מגבלות נוספות שמקורן בתנאי השימוש של מודל המקור.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים