synthdog-en
קוד פתוחnaver-clova-ixרישיון לא דווח2022-07-20
מאגר נתונים סינתטי באנגלית להבנת מסמכים ללא OCR, שנוצר עבור מודל Donut. הוא מתאים למי שרוצה לאמן מודלי ראייה ושפה על טקסטים ומסמכים מגוונים בלי תלות בסריקות אמיתיות.
- 2,302הורדות בחודש
- 27לייקים
מה זה
המאגר כולל חצי מיליון דוגמאות שנוצרו באופן סינתטי באמצעות SynthDoG, כלי שפותח לצורך מחקר Donut שהוצג ב־ECCV 2022. הדוגמאות מדמות מסמכים באנגלית עם מגוון רחב של רקעים, גופנים, פריסות וטקסטורות, במטרה לאמן מודלים לקרוא ולהבין תוכן ישירות מתמונה בלי להזדקק למנוע OCR נפרד.
הכרטיס במאגר דל מאוד בפרטים טכניים על תהליך הסינון או מקורות הטקסט המדויקים, אך מפנה לקוד הפתוח של הפרויקט ולמאמר הרשמי. המאגר מוגדר כחלק מסדרה של ארבע שפות שונות, כאשר הגרסה הזו מתמקדת אך ורק באנגלית ומחולקת לקבצי אימון.
מתאים ל
- אימון מודלי מסמכים
אימון מקדים של מודלי ראייה להבנת מסמכים ללא מנוע זיהוי תווים חיצוני.
- בדיקת עמידות מודלים
בחינת יכולת ההתמודדות של מודלי שפה וראייה עם פונטים ורקעים מגוונים.
- מחקר אקדמי על נתונים סינתטיים
שחזור התוצאות של מאמר Donut או השוואת ביצועים מול דאטהסטים סינתטיים אחרים.
איפה זה נופל
מדובר בנתונים סינתטיים בלבד שנוצרו ב־2022, ולכן הם לא משקפים סריקות אמיתיות, רעשי מצלמה טבעיים או סוגי מסמכים מורכבים מהעולם האמיתי. המאגר מוגבל לשפה האנגלית בלבד, ואין בו שום תמיכה בעברית. לפני שמשלבים מודל שאומן עליו במוצר, חובה לבחון אותו על מסמכים אמיתיים, שכן פער הריאליזם מול מידע סינתטי עלול לפגוע בביצועים בשטח.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא דווח רישיון בעמוד המאגר, ולכן כל שימוש מסחרי מגיע עם סיכון משפטי. כל עוד היוצרים לא הגדירו רישיון פתוח, כל הזכויות שמורות להם.
האם המאגר כולל טקסטים או מסמכים בעברית?
לא, המאגר הזה מכיל אך ורק תוכן באנגלית. החוקרים שחררו גרסאות נפרדות לקוריאנית, סינית ויפנית, אך אין גרסה לעברית.
מאיפה הגיעו הנתונים שבמאגר?
הנתונים נוצרו בצורה מלאכותית על ידי כלי בשם SynthDoG שפותח עבור מודל Donut. אין מדובר בסריקות של מסמכים פיזיים מהעולם האמיתי.
איך המאגר מאורגן וכמה דוגמאות יש בו?
המאגר כולל חצי מיליון דוגמאות סינתטיות. הוא מחולק ל־85 קבצי Parquet שמכילים את נתוני האימון.
איך טוענים
הנתונים מחולקים ל־85 קבצי Parquet שמכילים את סט האימון, לצד קובץ התיעוד, בסך הכל 88 קבצים במאגר. הטעינה מתבצעת ישירות דרך ספריית datasets בלי צורך באישור גישה מיוחד, אך עקב חלוקת הקבצים המרובה כדאי להוריד ולשמור מקומית לפני האימון. השדות כוללים את נתוני התמונה והטקסט שנוצרו על ידי המנוע הסינתטי.
from datasets import load_dataset
ds = load_dataset("naver-clova-ix/synthdog-en")הרישיון
היוצרים לא דיווחו על רישיון שימוש בעמוד המאגר. מבחינה מעשית זה אומר שאין לכם היתר מפורש להשתמש בו לצרכים מסחריים או להפיץ נגזרות שלו, ואימון מודל לחברה מסחרית עלול לחשוף אתכם לסיכון משפטי עד שהנושא יובהר מול החוקרים.