web_nlg
קוד פתוחwebnlg-challengecc-by-sa-3.0,cc-by-nc-sa-4.0,gfdl2022-03-02
המאגר מחבר שלשות מובנות מתוך דיביפידיה למשפטים באנגלית וברוסית שנכתבו בידי אדם. הוא מיועד למי שבונה מודלים להפיכת נתונים טבלאיים לשפה טבעית או לפירוק סמנטי של טקסט בחזרה למבנה.
- 917הורדות בחודש
- 25לייקים
מה זה
כל רשומה מורכבת מקבוצה של שלשות מידע בתבנית סובייקט, פרדיקט ואובייקט, ולצידן ניסוחים טקסטואליים שונים באנגלית או ברוסית. השלשות נלקחו מתוך דיביפידיה ועברו שינויים והתאמות לפני שהוצגו לאנשים. המשימה של המשתתפים היתה לנסח תחילה משפטים עבור שלשה בודדת, ובהמשך לאחד בהדרגה עד שבע שלשות למשפטים קוהרנטיים ומורכבים.
בגרסה שלוש יש חלוקה לפי שפות. באנגלית יש שש עשרה קטגוריות שונות ובהן שדות תעופה, פוליטיקאים, חברות וספורטאים, עם מעל שלושים וחמישה אלף משפטים בסט האימון. ברוסית יש פחות, תשע קטגוריות בלבד וכארבעה עשר אלף משפטי אימון, כאשר הטקסטים תורגמו במקור במכונה מאנגלית ועברו עריכה אנושית.
מתאים ל
- המרת נתונים מובנים לטקסט
אימון מודלים שלוקחים גרף או שלשות ידע ומייצרים מהם משפט קריא וזורם באנגלית או ברוסית.
- ניתוח סמנטי
בניית מודל שמחלץ מתוך משפט נתון את הישויות והקשרים הלוגיים חזרה למבנה נתונים מסודר.
- מבחן ביצועים למודלי שפה
בדיקת יכולת המיקרו תכנון של מודלים בהתמודדות עם שילוב כמה עובדות ללא חזרות מיותרות.
איפה זה נופל
יש פה הטיה ברורה ומדווחת למערב ולגברים, כאשר כל האסטרונאוטים למשל הם גברים וכינויי הגוף בהתאם. מעבר לזה אין בכלל עברית. השפה הרוסית מבוססת על תרגום מכונה שעבר עריכת המונים, כך שלפי הכרטיס חלק מהניסוחים עשויים לסבול מאיכות תרגום ירודה. הטקסטים עצמם נאספו בפלטפורמות עבודה מקוונת, ולכן השטף והטבעיות הלשונית שלהם מוגבלים.
שאלות
נפוצות
האם מותר להשתמש במאגר למטרות מסחריות?
לא. המאגר מופץ תחת רישיון הכולל סעיף מפורש שאוסר שימוש מסחרי. הוא מתאים רק למחקר אקדמי, בדיקות פנימיות או פרויקטים שלא למטרות רווח.
האם יש במאגר נתונים בעברית?
אין עברית כלל. המאגר כולל רק שתי שפות, אנגלית בכל הגרסאות ורוסית שנוספה בחלק מגרסה שלוש. אם אתם מחפשים מקורות לגרפי ידע בעברית תצטרכו לתרגם את המאגר או לבנות מקור נפרד מוויקיפדיה העברית.
איך נאספו הטקסטים בפועל?
החוקרים שלפו שלשות מתוך דיביפידיה והציגו אותן לעובדים בפלטפורמות עבודה מקוונות כמו אמזון מקניקל טורק. העובדים חיברו משפטים עבור שלשה יחידה, ולאחר מכן איחדו משפטים כדי לכסות כמה שלשות יחד עד שבע שלשות במשפט. בגרסה הרוסית הטקסטים תורגמו קודם במכונה ונערכו על ידי עובדים ביאנדקס טולוקה.
כמה המאגר כבד ואיך הוא בנוי?
מדובר במאגר קל של עשרות אלפי רשומות בלבד שנטען במהירות דרך פייתון בלי דרישות חומרה כבדות. כל רשומה כוללת את השלשות, את מבנה העץ שלהן, קטגוריית התוכן, ואת הניסוחים האנושיים עם חיווי איכות.
איך טוענים
טוענים את המאגר ישירות דרך ספריית הדאטהסטס בלי צורך באישורי גישה או בהרשמה מיוחדת. המאגר מכיל סקריפט פייתון וקובץ תיעוד, וההורדה קטנה מאוד ורצה מהר. בזמן העיבוד צריך לשים לב לשדות הראשיים, המכילים את קבוצת השלשות המקורית והמותאמת, קטגוריית הישות, ומערך הניסוחים שכולל את הטקסט עצמו ודירוג איכות שסומן כטוב או כרע.
from datasets import load_dataset
ds = load_dataset("webnlg-challenge/web_nlg")הרישיון
המאגר שפורסם מוגדר תחת רישיון לא מסחרי עם ייחוס ושיתוף זהה, בעוד נתוני המקור של דיביפידיה נשענים על רישיונות חופשיים יותר. בגלל ההגבלה הלא מסחרית, אי אפשר להשתמש בנתונים האלה לאימון מודל שמיועד למוצר מסחרי, וכל שימוש מחקרי או נגזרת מחייבים מתן קרדיט והפצה באותם תנאים בדיוק.