חדש Key אחד לכל המודלים, עם הערכת מחיר לפני כל קריאה. יוצרים Key

GPT
G

gazzetta-ufficiale

קוד פתוח

mii-llmmit2024-02-01

  • law
  • legal

המאגר מרכז מיליוני מסמכים רשמיים, חוקים ומכרזים מתוך הרשומות של ממשלת איטליה. מי שבונה מודלים שמנתחים שפה משפטית ובירוקרטית באיטלקית ימצא פה מקור ממשלתי מקיף.

  • 1,190הורדות בחודש
  • 39לייקים

מה זה

הנתונים מגיעים ישירות מתוך הפרסומים של הרשומות הרשמיות באיטליה, בשיתוף משרד המשפטים המקומי. המאגר מכיל בין מיליון לעשרה מיליון רשומות שמחולקות לחמישה מדורים עיקריים. החלק הכללי כולל את כל החוקים והצווים של השלטון המרכזי והאזורי.

שאר החלקים ממוקדים יותר ומכילים פסיקות והחלטות של בית המשפט לחוקה, חקיקה אזורית מהמחוזות השונים, הודעות על מכרזים ממשלתיים לגיוס עובדים ומשנת 2007 גם מכרזי רכש וחוזים ציבוריים. מדובר בטקסטים בירוקרטיים מורכבים במיוחד שנכתבו בידי גורמים ממשלתיים שונים, ללא סינון או עריכה נוספת מעבר לפרסום המקורי.

מתאים ל

  • אימון מודלי שפה באיטלקית

    חומר גלם מסיבי לאימון מקדים או התאמה של מודלים שמיועדים להבנת טקסטים מנהליים וחוקתיים.

  • ניתוח מכרזים ורכש ציבורי

    אימון מודלים לחילוץ נתונים מתוך מסמכי התקשרויות של גופים ממשלתיים.

  • חיפוש בפסיקות חוקתיות

    בניית כלי אחזור מידע שמיועדים להחלטות וצווים של בית המשפט לחוקה האיטלקי.

איפה זה נופל

החומר כולו באיטלקית בלבד ואין בו שום ייצוג לשפות אחרות. המפרסמים מציינים מפורשות שהגרסה הדיגיטלית אינה נחשבת לטקסט הרשמי המחייב במקרה של סתירה מול המקור המודפס, כך שלא מומלץ להסתמך עליה לפסיקה משפטית עיוורת בלי בדיקה אנושית. מעבר לכך, אין בתיעוד שום מידע על טווח השנים המדויק שנאסף או על הסרת פרטים מזהים של אזרחים שנכללו במכרזים ובמסמכים.

שאלות
נפוצות

האם מותר להשתמש במאגר למוצר מסחרי?

כן, הרישיון המוצהר הוא MIT והוא מתיר שימוש מסחרי מלא בלי דרישה לפתוח את הקוד שלכם. עם זאת, המקור הממשלתי דורש מתן קרדיט וציון שהטקסט האלקטרוני אינו המקור הרשמי המחייב.

האם הדאטהסט כולל טקסטים בעברית?

לא, כל הרשומות מגיעות מהפרסומים הרשמיים של איטליה והשפה היחידה בדאטהסט היא איטלקית. אין בו תרגומים או נתונים בשום שפה נוספת.

מאיפה המידע הזה נאסף במקור?

הנתונים נלקחו מתוך הפרסומים של המכון הממשלתי להדפסה ומטבעה ומשרד המשפטים האיטלקי. המאגר מאגד את הפרסומים המנהליים, פסקי הדין והחקיקה שהמדינה מפרסמת לציבור.

מה הפורמט הטכני של הקבצים?

המאגר מחולק ל־15 קובצי פארקט שונים שמרכיבים יחד את סט האימון. הפורמט הזה נוח לטעינה יעילה בזיכרון ולעיבוד מהיר של מיליוני רשומות טקסט.

איך טוענים

טוענים את הנתונים ישירות דרך ספריית הדאטהסטס מתוך הנתיב של המאגר, ללא צורך באישור גישה מראש. המידע מחולק לחמישה עשר קובצי פארקט שונים שמרכיבים את סט האימון, כך שלא מדובר בקובץ בודד. שמות הקבצים והסיומות מעידים על מבנה שמתאים לטעינה במנות, וסכמת השדות המדויקת מתגלה בזמן הטעינה הראשונית של השורות.

from datasets import load_dataset

ds = load_dataset("mii-llm/gazzetta-ufficiale")

הרישיון

הפרויקט מופץ תחת רישיון MIT, מה שמאפשר שימוש חופשי לגמרי כולל שימוש מסחרי, שינוי ואימון מודלים. הרישיון דורש רק שמירה על הקרדיט ליוצרים. המקור הממשלתי האיטלקי דורש בנוסף לציין את המקור בעת שכפול הטקסטים ולהבהיר שהעותק האלקטרוני אינו מהווה מקור רשמי ומחייב.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗