DocLayNet-base
קוד פתוחpierreguillouother2023-01-25
גרסה מוקטנת של עשרה אחוזים ממאגר DocLayNet של יבמ, שכוללת תיחום מקטעים וטקסט מחולץ. היא מיועדת למי שרוצה לאמן מודלים של ניתוח מסמכים בלי להוריד 35 גיגה בייט.
- 838הורדות בחודש
- 19לייקים
מה זה
המאגר מכיל תמונות עמודים מרובעות ברזולוציה של 1025 על 1025 פיקסלים, לצד קובצי PDF מקוריים שמקודדים בבסיס 64, תיבות תוחמות לפי תוויות ברמת שורות ופסקאות, וטקסט שחולץ באמצעות OCR. הדגימה הזו כוללת 6910 דפי אימון, 648 דפי אימות ו־499 דפי בדיקה שנבחרו אקראית מתוך המאגר המלא של יבמ.
המקור מורכב ממסמכים שפורסמו לציבור בשש קטגוריות: דוחות כספיים, מדריכים טכניים, מאמרים מדעיים, חוקים ותקנות, פטנטים ומכרזים ממשלתיים. הקטגוריות של דוחות כספיים ומדריכים מכילות סגנונות עיצוב חופשיים ומגוונים מאוד, בעוד שהאחרות משלבות מקורות ממשלתיים ומוציאים לאור שונים כדי לייצר שונות מבנית.
מתאים ל
- אימון מודלי פריסה רב-מודאליים
התאמת מודלים כמו LayoutLMv3 ו־LiLT שמשלבים ראייה ממוחשבת וטקסט, באמצעות נתונים מעובדים מראש.
- זיהוי מקטעים במסמכים סרוקים
אימון מודלים של זיהוי אובייקטים לאיתור שורות ופסקאות בפורמט COCO על גבי עמודי דוחות ומדריכים.
- פיתוח ובדיקת אב-טיפוס מהירה
בדיקת צינורות עיבוד מסמכים במחשב מקומי או ב־Colab בלי להוריד עשרות גיגה בייט של המאגר המלא.
איפה זה נופל
ההטיה המרכזית היא שפת המסמכים. קרוב ל־95 אחוזים מהחומר כתוב באנגלית, כשרק שברירי אחוזים מוקדשים לגרמנית, צרפתית ויפנית. עברית לא קיימת כאן בכלל. אם המודל שלכם נשען רק על ראייה ממוחשבת טהורה לזיהוי מבנה, השפה פחות משנה. לעומת זאת, אם אתם מכניסים למודל מאפייני טקסט, כמו במודלים מסוג LayoutLM או LiLT, הנתונים האלה לא יעזרו למסמכים מימין לשמאל.
נקודה נוספת היא חוסר התאמה מובנה בתיבות התוחמות. הטקסט שחולץ ב־OCR לא תמיד יושב בול על הגבולות שסומנו ידנית, ונדרש חישוב שטח חופף כדי להצליב ביניהם בצורה נקייה.
שאלות
נפוצות
האם יש במאגר מסמכים בעברית?
לא. כ־95 אחוזים מהמסמכים הם באנגלית, והשאר מתחלקים בין גרמנית, צרפתית ויפנית. למסמכים בעברית תצטרכו לאסוף ולסמן נתונים עצמאיים, במיוחד בגלל כיוון הקריאה.
מה ההבדל בין המאגר הזה ל־DocLayNet המקורי של יבמ?
זהו חיתוך אקראי של עשרה אחוזים מהמאגר המקורי. בנוסף, המפרסם כבר הצמיד את הטקסט שחולץ ב־OCR לתיבות התוחמות, פעולה שבמאגר המקורי דורשת הורדה נפרדת של קובץ נוסף וכתיבת קוד עיבוד ייעודי.
האם מותר להשתמש במאגר למוצר מסחרי?
הנתונים המקוריים שפורסמו על ידי יבמ מוגנים ברישיון CDLA-Permissive-1.0 שמאפשר שימוש מסחרי. בדף המאגר הזה נרשם רישיון other תוך הפניה למקור, ולכן יש לוודא התאמה לדרישות הרישיון המקורי כולל מתן ייחוס מתאים.
כמה שוקל הדאטהסט הזה בהשוואה למקור?
המאגר המקורי שוקל מעל 35 גיגה בייט להורדה מלאה. הגרסה הזו חותכת את כמות הדוגמאות לכ־8,000 עמודים סך הכל, מה שמצמצם את זמני ההורדה והאחסון ומאפשר עבודה בסביבות כמו Google Colab ללא חסימת משאבים.
איך טוענים
הטעינה מתבצעת ישירות דרך ספריית datasets או על ידי הרצת הסקריפט DocLayNet-base.py מתוך המאגר. הקבצים כוללים ארכיב zip יחיד בשם dataset_base.zip שנמצא בתיקיית data לצד מחברות יופיטר, ואין צורך באישור גישה או ברישום מוקדם. הרשומות מחברות בין מזהה התמונה, קטגוריית המסמך, נתוני התיבות התוחמות בפורמט COCO, והטקסט הדיגיטלי עם הקואורדינטות שלו.
from datasets import load_dataset
ds = load_dataset("pierreguillou/DocLayNet-base")הרישיון
המאגר המקורי של יבמ שוחרר תחת רישיון CDLA-Permissive-1.0, שמתיר שימוש מסחרי, שינוי והפצה בלי לחייב פתיחת קוד נגזר, אך דורש מתן קרדיט. עם זאת, בעמוד הנוכחי המפרסם הגדיר את הרישיון כ־other וציין שאינו טוען לזכויות על המידע. אם אתם בונים מודל מסחרי, עליכם להסתמך על תנאי רישיון ה־CDLA המקורי ולוודא שהחפיפה בין תנאי המקור להפצה הזו מקובלת על הייעוץ המשפטי שלכם.