CodeUltraFeedback
קוד פתוחcosealmit2024-03-13
מאגר העדפות לקוד שמיועד לאימון מודלים מבוסס משוב ודירוגים. הוא מתאים למי שרוצה לשפר יכולות תכנות של מודל קיים בלי לייצר דוגמאות השוואה מאפס.
- 144הורדות בחודש
- 28לייקים
מה זה
המאגר כולל 10,000 רשומות שמיועדות למשימות יצירת טקסט וקוד, והוא מרוכז כולו בפיצול יחיד של אימון. כל רשומה מייצגת פנייה של משתמש עם הוראה ברורה, לצד מספר תשובות מקודדות שהתקבלו ממודלים שונים שנבחנו על אותה מטלה.
בתוך הנתונים תמצאו את שדה ההוראה המקורית, רשימת המודלים שהשתתפו ביצירת התשובות, והתשובות עצמן. לכל מענה צמודה הערכה מפורטת שכוללת ציון מילולי ונימוק שמסביר מה עובד בקוד ואיפה הוא נכשל, יחד עם שדה העדפה סופי שמסמן איזו תשובה נבחרה כטובה ביותר.
כרטיס הנתונים לא מפרט אילו מודלים בדיוק יצרו את הפלטים, מאיזה מקורות חולצו ההוראות המקוריות או באילו כלים בוצע הסינון והדירוג. התגיות מצביעות על שימוש במשוב מבוסס בינה מלאכותית לפי שיטת שופט ממוחשב, אבל תהליך הדגימה והבדיקה המדויק אינו מופיע בתיעוד.
מתאים ל
- אימון העדפות לקוד
כוונון מודלי שפה לכתיבת קוד באמצעות אלגוריתמים כמו DPO על בסיס התשובות וההעדפות.
- אימון מודל שופט
לימוד מודלים להעריך איכות קוד ולהפיק נימוקים על בסיס שדות הדירוג וההסברים המובנים.
- בנצ'מרק פנימי להשוואה
בדיקת יכולת הבחירה של מודל בין פתרונות קוד מתחרים מול הדירוגים שמופיעים בדאטהסט.
איפה זה נופל
הכרטיס שותק לחלוטין לגבי השפות שנתמכות בפנים, סוגי שפות התכנות, והאופן שבו נבדקה תקינות הקוד. אין מידע אם הקוד בכלל עבר קומפילציה או הרצה אמיתית, או שהדירוג התבסס רק על שיפוט של מודל שפה אחר שעלול לסבול מהטיות אורך ותחביר. מאחר שהנתונים עלו במרץ 2024, הם לא מכסים ספריות ותכונות שיצאו מאז. בנוסף, חוסר השקיפות לגבי זהות המודלים שייצרו את התוכן מחייב אתכם לבדוק ידנית מדגם של דוגמאות כדי לוודא שאין שם הזיות בוטות לפני שרצים לאמן.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, הרישיון שמצורף הוא MIT, שמתיר שימוש מסחרי חופשי לחלוטין. תוכלו לאמן איתו מודלים ולמכור גישה אליהם בלי לשחרר את המשקלים או את הקוד שלכם. הדרישה היחידה היא לצרף את תנאי הרישיון המקוריים.
כמה מקום צריך בשביל להוריד ולעבוד איתו?
הקובץ להורדה מכווץ ושוקל בערך 38 מגה בייט, ובזיכרון העבודה הוא נפתח לכ־92 מגה בייט. מדובר בנפח זעיר שנטען בשניות בודדות ולא דורש משאבי אחסון מיוחדים.
האם הדאטהסט כולל קוד או הוראות בעברית?
התיעוד אינו מצהיר על תמיכה בעברית או על שפות טבעיות נוספות מלבד אנגלית. סביר מאוד להניח שההוראות וההסברים כתובים באנגלית בלבד, ואי אפשר להסתמך עליו לאימון על טקסט עברי בלי לתרגם אותו מראש.
איך נאספו ונוצרו הנתונים והדירוגים?
לפי התגיות, הנתונים מתבססים על שיטת LLM-as-a-Judge שבה מודל שפה מייצר את המשוב, הציונים והנימוקים לתשובות הקוד השונות. עם זאת, המפרסמים לא תיעדו מאיזה מודלים הופקו התשובות ואילו שופטים חילקו את הציונים.
איך טוענים
טוענים את המאגר ישירות בספריית הדאטהסטס הרגילה דרך הנתיב coseal/CodeUltraFeedback, בלי צורך בבקשת גישה מיוחדת או אישור מקדים. קובץ הפרקט של האימון שוקל כ־38 מגה בייט להורדה ותופס קצת מעל 92 מגה בייט בזיכרון, כך שאפשר לפתוח אותו בקלות על כל מחשב פיתוח בסיסי. כשמעבדים את הרשומות לאימון, השדות המרכזיים שצריך לחלץ הם instruction עבור הפרומפט, preference להכרעה, ורשימות ה־responses וה־annotations שמחזיקות את הקוד והנימוקים.
from datasets import load_dataset
ds = load_dataset("coseal/CodeUltraFeedback")הרישיון
המאגר מופץ תחת רישיון MIT פתוח ומתירני. מותר להשתמש בו לצרכים מסחריים ומחקריים, לשנות את הנתונים, להפיץ אותם מחדש, ולאמן עליהם מודלים מסחריים בלי לחלוק את קוד המקור שלכם. התנאי היחיד הוא שמירת הודעת זכויות היוצרים והרישיון המקורי בקבצים הרלוונטיים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש