SHP-2
קוד פתוחstanfordnlpרישיון לא דווח2023-05-23
המאגר מרכז 4.8 מיליון העדפות אנושיות בין צמדי תשובות שנאספו מרדיט ומסטאק אקסצ'יינג'. הוא מתאים במיוחד לאימון מודלי תגמול שצריכים לזהות מה מועיל יותר, בלי להסתמך על תיוג מלאכותי בצ'אט.
- 1,068הורדות בחודש
- 18לייקים
מה זה
הנתונים מורכבים משאלות מקוריות שאליהן צורפו שני פוסטים שונים של תגובות מאנשים אמיתיים. החוקרים ניצלו את חותמות הזמן וקבעו עדיפות רק אם תגובה נכתבה אחרי תגובה אחרת ובכל זאת קיבלה ניקוד קהילתי גבוה יותר ממנה, מה שמנטרל את יתרון החשיפה של פוסטים ראשונים. המאגר נבנה על מודל של העדפה קולקטיבית סביב השאלה איזו תשובה עזרה יותר לפונה, ולא איזה תוכן פחות פוגעני או רעיל.
המבנה מחולק לשתי ספריות נפרדות, אחת לרדיט והשנייה לסטאק אקסצ'יינג'. בפנים יש 129 תתי ספריות לפי קהילות תוכן שונות, שבעים סאברדיטים וחמישים ותשעה אתרים מקבוצת סטאק, כשכל קהילה נשמרת בקובצי JSONL ומחולקת מראש לאימון, ולידציה ובדיקה ביחס של תשעים אחוז לחמש וחמש. הסינון שלל תכנים מבוגרים, משתמשים מחוקים, מנהלים ופוסטים עם מעט מדי הצבעות, והגביל כל פוסט ברדיט לעד חמישים תגובות כדי למנוע הטיה לדיונים ויראליים.
מתאים ל
- אימון מודל תגמול ללמידה מחיזוקים
כיול מודל שמדרג שתי תשובות חלופיות כדי לאמן מודלי שפה לספק מענה אינפורמטיבי ושימושי יותר לשאלות מורכבות.
- הערכה אוטומטית של טקסט שנוצר
בדיקת איכות של פלטים ממודלים גנרטיביים מול העדפות אנושיות קולקטיביות במגוון תחומי ידע מקצועיים.
- אימון מודלים מותאמי תחום
שליפת קהילה ממוקדת כמו שפות תכנות או ייעוץ משפטי לטובת התאמת סגנון התשובה לסטנדרט המקובל באותה סביבה.
איפה זה נופל
הנתונים נאספו רק באנגלית ומבוססים על גולשים מערביים בעלי רוב גברי, כך שהם לא מייצגים דעת קהל רחבה ואינם רלוונטיים לעברית ללא תרגום. הפוסטים נחתמו לפני שנת אלפיים עשרים ושלוש, וההעדפה בקהילות משקפת פופולריות ציבורית שמושפעת לעיתים מהצבעות של העדר ולאו דווקא מעובדות מדויקות בשטח. בנוסף, אין כאן נתונים לאימון מנגנוני בטיחות או סינון רעילות, והמאגר לא כולל שיחות מתמשכות אלא שאלות ותשובות בודדות בלבד.
שאלות
נפוצות
האם מותר להשתמש במאגר לפרויקט מסחרי?
השימוש מסוכן מבחינה משפטית ולא מומלץ למסחר. הנתונים של סטאק אקסצ'יינג' מחייבים שיתוף זהה של הנגזרות, והנתונים של רדיט נאספו ללא אישור מפורש לאימון מודלים תחת תנאי שימוש שאוסרים זאת כיום.
האם יש במאגר תמיכה בשפה העברית?
לא, כל הטקסטים והתגובות נאספו מפורומים שפועלים בשפה האנגלית בלבד. אם המטרה היא לעבוד על עברית, תצטרכו לתרגם את הנתונים באופן עצמאי או לחפש מקורות חלופיים.
במה המאגר הזה שונה ממאגרי העדפות מקובלים כמו של אנתרופיק?
מאגרים כמו אלה של אנתרופיק מבוססים על שיחות סינתטיות רב שלביות של בודקים מול מודלים, תוך התמקדות בהפחתת נזק ורעילות. כאן מדובר בטקסטים שנכתבו בידי בני אדם בפורומים ציבוריים, במבנה של שאלה ותשובה בודדת, כשהתווית מסמנת איזו תגובה מועילה יותר.
איך החוקרים קבעו איזו תגובה עדיפה על פני השנייה?
ההעדפה נקבעה על פי חותמות הזמן ומספר ההצבעות החיוביות והשליליות. תגובה נחשבת מועדפת רק אם היא עלתה לאוויר אחרי התגובה המתחרה ועדיין הצליחה לעקוף אותה בניקוד המצטבר.
איך טוענים
טוענים את המאגר ישירות בספריית הדאטהסטס של האגינג פייס, ללא דרישת הרשמה או אישור גישה מראש. בגלל המבנה המבוזר על פני מאות קבצים, אפשר להוריד את כל החבילה בבת אחת או להגדיר תיקיית מקור ספציפית דרך פרמטר כדי למשוך קהילה בודדת. הרשומות כוללות את טקסט הפוסט והתגובות, מזהי הצמדים, פער הזמנים בשניות, יחס הניקוד ותווית בינארית אקראית שמאזנת את ההעדפה לחמישים אחוז. כדאי לדעת שחלק מהטקסטים מגיעים לאלפי תווים, והיוצרים ממליצים לחתוך את גוף השאלה לחמש מאות ושנים עשר טוקנים ולאמן לא יותר מאיפוק אחד כדי לא לייצר התאמת יתר.
from datasets import load_dataset
ds = load_dataset("stanfordnlp/SHP-2")הרישיון
המאגר כולו פורסם ללא הגדרת רישיון אחידה. התוכן שמקורו בסטאק אקסצ'יינג' מופץ תחת רישיון פתוח של ייחוס ושיתוף זהה בגרסה ארבע, אך החלק של רדיט נשען על קצירת מידע היסטורית מהרשת שלפי תנאי השימוש הנוכחיים של האתר אוסרת במפורש אימון מודלים ללא אישור. המפרסמים לא לוקחים אחריות על שימושי המשך, ומי שמתכנן לבנות מודל מסחרי מסתכן בהפרת תנאי השימוש של רדיט.