synthdog-zh
קוד פתוחnaver-clova-ixרישיון לא דווח2022-07-20
חצי מיליון מסמכים סינתטיים בסינית שנבנו לאימון מודלים להבנת מסמכים ללא OCR. המאגר מיועד למי שרוצה לאמן ראייה ממוחשבת על טקסט סיני בלי להסתמך על סריקות ידניות.
- 1,350הורדות בחודש
- 18לייקים
מה זה
המאגר כולל חצי מיליון רשומות שנוצרו באמצעות SynthDoG, כחלק ממחקר Donut שהוצג ב־ECCV 2022. התמונות מדמות מסמכים אמיתיים בסינית עם מגוון עיצובים, רקעים, פונטים והפרעות חזותיות, והן מגיעות יחד עם הטקסט המדויק שנשתל בהן. המטרה היא לתת למודלים ויזואליים אפשרות לקרוא מסמכים ישירות מתמונה, במקום לעבור קודם דרך מנוע OCR נפרד.
הנתונים שמורים בחלוקה ל־87 קבצי parquet בתוך תיקיית המידע. הכרטיס עצמו לא מפרט אילו מקורות טקסט הוזנו למנוע הסינתזה כדי לייצר את התוכן הסיני, או אילו חיתוכים וסינונים בוצעו על התוכן. אין כאן חלוקה מוגדרת מראש לחלק של אימון, בדיקה או מבחן, וכל הקבצים מופיעים תחת מקטע יחיד.
מתאים ל
- אימון מודלי מסמכים
אימון מקדים של מודלי ראייה כמו Donut לקריאה ישירה של מסמכים בסינית ללא OCR.
- מבחני עמידות לזיהוי
בדיקת יכולת המודל להתמודד עם פונטים מורכבים ורקעים משתנים בטקסט סיני.
- ייצור נתונים נוספים
בחינת איכות התוצרים הסינתטיים לצורך כיול מחוללי מסמכים דומים בעתיד.
איפה זה נופל
הכרטיס לא חושף מאיזה מקור הגיע הטקסט הסיני, אם מדובר בוויקיפדיה או בטקסטים אחרים, ומה איכות הפיסוק והדקדוק שלו. אין כאן מילה על עברית, והנתונים כולם בסינית בלבד מגרסת שנת 2022. מסמכים סינתטיים תמיד מוגבלים ביכולת לחקות לכלוך, קיפולים וסריקות של מסמכים פיזיים מהעולם האמיתי, ולכן מודל שמתאמן עליהם בלבד עלול לקרוס על טפסים סרוקים אמיתיים.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא מומלץ בכלל. המאגר פורסם ללא הגדרת רישיון, מה שאומר שאין היתר שימוש מפורש. לשימוש מסחרי צריך ליצור קשר עם naver-clova-ix או לחכות שיגדירו רישיון קוד פתוח.
האם יש במאגר הזה טקסטים בעברית?
לא. המאגר מכיל אך ורק מסמכים שנוצרו בסינית. עבור שפות אחרות היוצרים שחררו מאגרים נפרדים לאנגלית, יפנית וקוריאנית, אך עברית אינה קיימת בסדרה.
כמה דוגמאות יש בפנים ואיך הן שמורות?
יש במאגר כחצי מיליון דוגמאות מסמכים שנוצרו באופן סינתטי. הן מפוצלות ל־87 קבצי parquet, שמכילים את התמונות יחד עם תוויות הטקסט.
איך טוענים
טוענים אותו ישירות דרך ספריית datasets באמצעות המזהה naver-clova-ix/synthdog-zh. אין צורך באישור גישה מראש. קחו בחשבון שיש במאגר 87 קבצי parquet שונים שמחזיקים תמונות של חצי מיליון מסמכים, כך שנפח ההורדה והאחסון בדיסק משמעותי מאוד. עדיף להזרים את הנתונים בסטרימינג לפני שמורידים את הכל.
from datasets import load_dataset
ds = load_dataset("naver-clova-ix/synthdog-zh")הרישיון
היוצרים לא ציינו רישיון בכרטיס המאגר. מבחינה משפטית, היעדר רישיון אומר שכל הזכויות שמורות לחוקרים מ־naver-clova-ix. אסור להניח שמותר להשתמש בזה למטרות מסחריות, ואימון מודל לחברה מסחרית על המידע הזה מסוכן עד שהם יפרסמו תנאים ברורים.