md_gender_bias

מה זה

המאגר מחולק לכמה תצורות שונות שמגיעות ממקורות נפרדים. חלק אחד מכיל רשימות בסיסיות של שמות ממוגדרים ומילים עם גרסאות זכר ונקבה באנגלית. חלק אחר, שנקרא new_data, כולל משפטים שנכתבו ותויגו מחדש בידי עובדי מיקור חוץ לאורך שלושת צירי המגדר, כולל דירוג ביטחון של המתייג ודיווח עצמי על המגדר שלו.

שאר החלקים מבוססים על דאטהסטים קיימים כמו Funpedia, Wizard of Wikipedia, Image Chat, ConvAI2, OpenSubtitles, Yelp ו־LIGHT. הטקסטים האלה כוללים תיוגים של מגדר היעד או הדובר, כאשר בחלק מהתצורות התיוגים מבוססים על ישויות ידועות, ובחלקן האחר, תצורות ה־inferred, התוויות נוצרו אוטומטית באמצעות מודל סיווג שחישב הסתברויות בינאריות ומשולשות.

החלוקה הזו יוצרת ערבוב בין דאטה שנבדק בקפידה בידי אדם לבין כמויות גדולות של נתונים שתויגו על ידי מודל אחר, כך שרמת הרעש משתנה לחלוטין בין קונפיגורציה לקונפיגורציה.

מתאים ל

• סיווג מגדר דובר ונמען

  אימון מודל שמזהה למי מכוון המשפט ומי הדובר בשיחות צ'אט מרובות משתתפים.

• בדיקת הטיות במודלי שפה

  שימוש בתצורת new_data כבנצ'מרק הערכה כדי לבדוק אם מודל משנה את תשובותיו לפי מגדר הדמות.

• נרמול מגדרי של טקסט

  החלפת מונחים ממוגדרים באמצעות רשימות השמות והמילים התואמות לצורך אנונימיזציה.

איפה זה נופל

הנתונים כולם באנגלית בלבד ומבוססים על שיחות ותוכן מאתרים אמריקאיים ישנים יחסית, כך שאין שום ייצוג לעברית או למבנה מגדרי של שפות שמיות. החיסרון המשמעותי ביותר הוא שהתיוג בחלקים הגדולים נוצר על ידי מסווג אוטומטי, כלומר המודל שלכם ילמד הטיות וטעויות של מודל אחר. בנוסף, חלוקת הנתונים המקורית סובלת מחוסר איזון מובנה, עם הרבה יותר ייצוג לגברים לעומת נשים בחלקים כמו Funpedia ו־Wizard, והתיוג מתמקד כמעט כולו במגדר בינארי.

איך טוענים

הטעינה נעשית דרך ספריית datasets הרגילה של Hugging Face, אבל חובה להגדיר קונפיגורציה ספציפית כי לכל חלק יש מבנה שדות אחר לגמרי. אין צורך לבקש אישור גישה מיוחד, המאגר פתוח להורדה ישירה. שדות המפתח תלויים בחלק שבחרתם, בקונפיגורציות מסוימות תעבדו עם binary_label ו־binary_score, באחרות עם labels ו־turker_gender, ובמאגרי המילים תקבלו פשוט צמדי מחרוזות. שימו לב שחלק מהטקסטים כוללים טוקנים מיוחדים של פתיחה וסיום שצריך לנקות לפני אימון.

from datasets import load_dataset

ds = load_dataset("facebook/md_gender_bias")

הרישיון

המאגר מופץ תחת רישיון MIT. זהו רישיון מתירני מאוד שמאפשר שימוש מסחרי, שינוי, הפצה ושילוב בקוד סגור, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי. המשמעות עבורכם היא שניתן לאמן עליו מודלים מסחריים בלי דרישה לחשוף את המשקלים או את קוד המערכת, אך באחריותכם לוודא שהשימוש במידע שנאסף ממקורות צד שלישי כמו Yelp או כתוביות אינו מתנגש עם תנאי השימוש המקוריים שלהם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗