DoclingMatix

מה זה

המאגר מכיל בדיוק 1,270,911 רשומות, וכולן יושבות תחת סט אימון יחיד ללא חלוקה מובנית לולידציה או מבחן בכרטיס. הבסיס מגיע מהרחבה ישירה של הדאטהסט Docmatix. כל רשומה כוללת תמונת מסמך יחד עם שאלות ותשובות שהיו במקור, אך כאן הוסיפו לטקסט הנחיה ברורה שמכוונת את המודל להמיר את המסמך הוויזואלי לפורמט טקסט מובנה בשם DocTag.

המבנה הזה נועד לאימון מודלים שממלאים הוראות, כך שהקלט הוא תמונה והפלט הוא ייצוג מובנה ומסודר של תוכן המסמך. מעבר להמרה ישירה של מסמכים, הרשומות כוללות זוגות של שאלות ותשובות שמבוססים על התוכן והמבנה, כך שאפשר להשתמש בו גם למשימות מענה על שאלות חזותיות מתוך מסמכים.

מתאים ל

• אימון מודלי המרת מסמכים

  למידה מקצה לקצה מתמונת דף לייצוג טקסטואלי מובנה.

• מענה על שאלות ממסמכים

  אימון מערכות visual question answering על גבי דוחות ודפים.

• אימון למילוי הנחיות

  כוונון מודלי שפה וראייה לעיבוד מסמכים לפי פרומפט קבוע.

איפה זה נופל

הנתונים מוגדרים תחת השפה האנגלית בלבד, כך שאין כאן תמיכה במסמכים בעברית או במבנה מימין לשמאל. המאגר כולל רק סט אימון, ולכן תצטרכו להקצות בעצמכם נתונים לבדיקה כדי להעריך תוצאות בצורה הוגנת. הפלט מוכוון ספציפית לפורמט הייעודי DocTag, ואם אתם זקוקים למבנה סטנדרטי אחר כמו JSON רגיל או Markdown, תצטרכו לעבד את הנתונים מחדש.

איך טוענים

הנתונים מחולקים לתוך 1,106 קובצי Parquet, מה שאומר שמדובר בהורדה כבדה ומפוצלת שדורשת עבודה עם הזרמה או אחסון מקומי רחב. אין צורך באישור גישה מיוחד כדי להוריד את הקבצים. בעבודה שוטפת, השדות המרכזיים שמעניינים אתכם הם תמונת המסמך ושדה הטקסט שמכיל את הפרומפט להמרה לצד הפורמט המובנה.

from datasets import load_dataset

ds = load_dataset("HuggingFaceM4/DoclingMatix")

הרישיון

הרישיון הוא cdla-permissive-2.0, רישיון פתוח שמתיר שימוש מסחרי ומאפשר אימון מודלים ללא דרישה לשתף את התוצרים באותו הרישיון. אתם כן נדרשים לשמור על תנאי הייחוס של יוצרי הדאטהסט.

הרישיון המלא ב־Hugging Face ↗