ibm-research/finqa

מה זה

המאגר מבוסס על 2.8k דוחות כספיים וכולל 8k צמדים של שאלות ותשובות בתחום הפיננסי. המטרה המרכזית שלו היא לבחון יכולות הסקה מספרית, כך שהתשובה כמעט אף פעם לא מופיעה כטקסט פשוט שרק צריך לשלוף, אלא דורשת חישוב בפועל.

המידע בכל רשומה משלב ראיות משני סוגים, מידע מובנה שמופיע בטבלאות ומידע לא מובנה שנלקח מתוך פסקאות ההסבר בדוחות. כרטיס הדאטהסט לא מפרט חלוקה ספציפית לפיצולים או שלבי סינון וניקוי שעברו הדוחות, ומפנה למאמר המקורי של החוקרים מ־2021 למי שרוצה להבין את תהליך הדגימה המדויק.

מתאים ל

• אימון מודלים להסקה כמותית

  לימוד מודל לבצע פעולות חשבון על בסיס נתונים שמפוזרים בין טקסט לטבלאות.

• הערכת ביצועים על דוחות

  בדיקת הדיוק של מודל שפה קיים בחילוץ עובדות כספיות ופתרון שאלות מורכבות.

• פיתוח כלי עזר לאנליסטים

  בניית אב טיפוס למערכת שקוראת דוחות באנגלית ומספקת תשובות מספריות מהירות.

איפה זה נופל

המאגר בנוי כולו באנגלית בלבד. אם המוצר שלכם צריך לנתח דוחות של חברות ישראליות בעברית או להבין מונחים של רשות המסים, המאגר הזה לא ייתן לכם מענה ישיר בלי התאמות ותרגום. מעבר לזה, הכרטיס דל מאוד בפרטים. אין בו תיעוד של הטיות, פירוט על החברות שנכללו, או הסבר לגבי האופן שבו נבדקו החישובים, ולכן תצטרכו לדגום את התשובות בעצמכם כדי לוודא שאין שם שגיאות חישוב במקור.

איך טוענים

טוענים את הדאטהסט ישירות דרך ספריית datasets באמצעות המזהה של יבמ. המאגר פתוח לציבור ואין צורך לבקש אישור גישה מיוחד, להמתין למפתח או להגדיר הרשאות מול החוקרים.

בתוך המאגר יש סך הכל שלושה קבצים, כולל סקריפט הטעינה finqa.py וקובץ התיעוד. מכיוון שמדובר באלפי רשומות בלבד, הקבצים יורדים מהר ולא מייצרים עומס על הדיסק, אבל כדאי לשים לב למבנה הנתונים בסקריפט כדי לראות איך מיוצגות הטבלאות לצד הטקסט.

from datasets import load_dataset

ds = load_dataset("ibm-research/finqa")

הרישיון

הרישיון המדווח הוא cc-by-4.0, שמתיר שימוש מסחרי, שינוי והפצה של הנתונים. הדרישה העיקרית היא מתן קרדיט מתאים ליוצרים ולמאמר המקורי. אין כאן חובת שיתוף באותו רישיון, כך שמותר לאמן עליו מודלים פנימיים או מסחריים בלי לחשוף את הפיתוח.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא ב־Hugging Face ↗