InstructIE
קוד פתוחzjunlpרישיון לא דווח2023-07-29
מאגר נתונים דו לשוני לחילוץ מידע מובנה ומערכות יחסים מתוך טקסטים חופשיים לפי סכמות מוגדרות מראש. הוא מיועד למי שרוצה לאמן מודלי שפה לעקוב אחרי הוראות חילוץ מורכבות באנגלית או בסינית.
- 714הורדות בחודש
- 31לייקים
מה זה
הרשומות במאגר מורכבות מטקסט גולמי, קטגוריית תוכן, ומערך של שלשות יחסים מפורטות. כל שלשה כוללת את הישות הפותחת, סוג הישות, סוג היחס, הישות התואמת וסוג הישות התואמת. בחלק מנתוני האימון קיים גם שדה ישויות ייעודי שמתאים לזיהוי ישויות קלאסי, אך שדה זה אינו מופיע בנתוני הבדיקה.
התוכן מחולק לשנים עשר נושאים מרכזיים, בהם אישים, מיקומים גאוגרפיים, מבנים, יצירות, רפואה, אסטרונומיה ואירועים. לכל נושא נבנתה סכמה ייעודית. המאגר מפוצל לקובצי אימון, אימות ובדיקה נפרדים, כשלכל שפה שמור קובץ משלה, לצד קובצי סכמה מוגדרים באנגלית ובסינית. הכרטיס אינו מפרט מהם מקורות הטקסט המקוריים או באילו שיטות נעשה הסינון.
מתאים ל
- אימון מודל לחילוץ שלשות
לימוד מודלים להפיק ישויות ויחסים מובנים מטקסט חופשי באנגלית או בסינית לפי פורמט קבוע.
- חילוץ מידע לפי נושא
אימון המערכת להתמקד בסכמות מוגדרות מראש עבור תחומים ספציפיים כמו רפואה, תחבורה או אסטרונומיה.
- הערכת ביצועי מודלי שפה
מדידת הדיוק של מודלים קיימים במעקב אחרי הוראות מורכבות של זיהוי קשרים בטקסט.
איפה זה נופל
החיסרון המרכזי כאן הוא חוסר שקיפות מוחלט לגבי מקור הטקסטים ושיטת התיוג, כך שאי אפשר לדעת מראש אילו הטיות קיימות בתוכן או האם התיוג נעשה ידנית או באמצעות מודל אחר. מבחינת שפות, אין כאן עברית כלל, אלא רק אנגלית וסינית. בנוסף, חוסר האחידות בין נתוני האימון לבדיקה בנוגע לשדה הישויות מגביל את היכולת לבצע הערכה מלאה למשימות זיהוי ישויות בלבד, ולפני שמכניסים מודל כזה למוצר, צריך לבדוק היטב איך הוא מתמודד עם טקסטים מחוץ לשנים עשר התחומים שהוגדרו מראש.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא מומלץ לעשות זאת כרגע. בדף המאגר לא צוין רישיון שימוש, ובהיעדר רישיון מפורש כל הזכויות שמורות ליוצרים. שימוש מסחרי במצב כזה חושף אתכם לסיכון של הפרת זכויות יוצרים.
האם המאגר כולל נתונים בעברית?
לא. המאגר הוא דו לשוני וכולל קבצים באנגלית ובסינית בלבד. אם המטרה היא אימון בעברית, תצטרכו לתרגם את הנתונים והסכמות או לייצר מאגר מקביל.
איך נאספו הטקסטים והתיוגים?
הכרטיס אינו מספק מידע על מקור הטקסטים או על אופן הפקת התיוגים. לא מצוין אם הטקסטים נלקחו ממאגרי חדשות, ויקיפדיה, או נוצרו סינתטית, וגם תהליך בקרת האיכות לא מתועד.
למה שדה הישויות מופיע רק בחלק מהקבצים?
היוצרים צירפו את שדה הישויות לקובצי האימון כדי לאפשר אימון במשימות זיהוי ישויות, אך השמיטו אותו מסט הבדיקה. המשמעות היא שלא תוכלו לבצע הערכה ישירה ומדויקת למשימת זיהוי ישויות בלבד על סט המבחן הרשמי.
איך טוענים
הנתונים מאוחסנים ישירות במבנה קובצי JSON פשוטים ומחולקים לשפות, כך שאפשר לקרוא אותם עם ספריות סטנדרטיות בפייתון או דרך ספריית הדאטהסטים. הגישה פתוחה לחלוטין ואין צורך באישור מיוחד כדי להוריד את הקבצים. לפני שמתחילים לעבוד, צריך לקרוא את קובצי הסכמה כדי להבין את מבנה הטיפוסים, ולהביא בחשבון ששדה הישויות נעדר מסט הבדיקה, מה שמחייב התאמה של תהליך ההערכה מראש.
from datasets import load_dataset
ds = load_dataset("zjunlp/InstructIE")הרישיון
היוצרים לא ציינו רישיון שימוש בכרטיס המאגר. מבחינה משפטית, כשאין רישיון מוגדר אסור להניח שהשימוש מותר, בוודאי לא לפיתוח מוצרים מסחריים או לאימון מודלים שמיועדים להפצה. המשמעות היא סיכון משפטי ברור, וכל עוד zjunlp לא יבהירו את תנאי הרישוי, המאגר מתאים בעיקר לבדיקות פנימיות ולמחקר זהיר בלבד.