חדש Key אחד לכל המודלים, עם הערכת מחיר לפני כל קריאה. יוצרים Key

GPT
Q

quran

קוד פתוח

nazimalicc-by-3.02024-09-08

  • islam
  • quran
  • translations

המאגר מרכז את פסוקי הקוראן בערבית בכמה רמות ניקוד, יחד עם תרגומים לעשרות שפות ומטא-דאטה מפורט על כל פסוק. הוא שימושי למי שבונה חיפוש, השוואת תרגומים או מודלי שפה רב-לשוניים לטקסט דתי.

  • 586הורדות בחודש
  • 20לייקים

מה זה

כל רשומה מייצגת פסוק בודד ומכילה מעל 126 עמודות. החלק הראשון כולל נתונים מבניים כמו מספר הסורה והפסוק, שמות בערבית ובאנגלית, סיווג למכה או מדינה, סדר ההתגלות ומספר הרוקו. לצד זה מופיע הטקסט המקורי בחמישה נוסחים שונים, מכתב עות'מאני מסורתי ועד גרסה נקייה לחלוטין מניקוד וסימנים שנוחה לעיבוד שפה טבעית.

שאר העמודות מוקדשות לתרגומים בלמעלה מ־43 שפות, כולל מספר גרסאות שונות לאותה שפה לפי שמות המתרגמים, כמו עשרות תרגומים באנגלית ובפרסית לצד פרשנויות בערבית. הנתונים מתבססים בחלקם על Tanzil. תהליך הסינון של היוצר כלל ניקוי רווחים מיותרים, הסרת תווי יוניקוד ישנים או לא בשימוש ותיקון מפרידי צינור שגויים. כל המידע יושב בפיצול יחיד של אימון.

מתאים ל

  • אימון מודלי תרגום

    השוואת פסוקים מקבילים בין ערבית לבין עשרות שפות שונות ברמת הפסוק הבודד.

  • מנועי חיפוש ואחזור

    שימוש בעמודת הטקסט הנקי מניקוד לבניית אינדקסים וחיפוש טקסטואלי מהיר.

  • יצירת אמבדינגס לטקסט דתי

    הפקת וקטורים מייצגים מטקסט עם ניקוד מינימלי עבור משימות סיווג ודמיון סמנטי.

איפה זה נופל

הטקסטים מייצגים תוכן קאנוני דתי עתיק ותרגומים היסטוריים, כך שהשפה אינה משקפת ערבית מדוברת או שיח יומיומי מודרני. עברית אינה נכללת ברשימת התרגומים הקיימת במאגר. בנוסף, בחלק מהתרגומים, כמו ביפנית ובקוריאנית, זהות המתרגם מוגדרת כלא ידועה, מה שמקשה על בדיקת מקוריות. תוספות מתוכננות כמו פרשנויות רחבות יותר ומיפוי אונטולוגי חסרות כרגע ומופיעות רק ברשימת המשימות הפתוחה של היוצר.

שאלות
נפוצות

האם מותר להשתמש במאגר לפרויקט מסחרי?

כן, רישיון cc-by-3.0 מתיר שימוש מסחרי מלא. התנאי המרכזי הוא מתן ייחוס וקרדיט נאות ליוצר המאגר. אין חובה לפתוח את קוד המקור או לשחרר את המודל המאומן תחת אותו רישיון.

האם יש במאגר תרגום לעברית?

לא, עברית אינה מופיעה ברשימת השפות והתרגומים של המאגר. הוא כולל שפות כמו ערבית, אנגלית, פרסית, רוסית, צרפתית ועוד עשרות אחרות, אך ללא עברית.

למה יש כמה עמודות שונות לאותו טקסט בערבית?

העמודות מציגות רמות שונות של עיבוד הטקסט, החל מכתב עות'מאני מלא כולל סימני טעמים, דרך ניקוד חלקי, ועד גרסה נקייה לגמרי. זה מאפשר לבחור את הגרסה המתאימה לפי המשימה, למשל גרסה נקייה לחיפוש רגיל או גרסה מנוקדת לאימון מודלי הגייה.

האם הנתונים כוללים פרשנויות מלאות לכל פסוק?

המאגר כולל עמודות בודדות של תפסיר מקוצר בערבית ובאינדונזית, אך הרחבות פרשניות מעמיקות ומיפוי נושאים עדיין מוגדרים כמשימות לעתיד. מי שצריך ניתוח תאולוגי עמוק ימצא כאן בעיקר את הטקסט הישיר ותרגומיו.

איך טוענים

טוענים את המאגר ישירות עם ספריית datasets בפקודה load_dataset("nazimali/quran", split="train"). אין צורך בהרשאות גישה או בטוקן, והמאגר פתוח להורדה מיידית. הנתונים שמורים בפורמט Parquet שמחולק לכ־173 קבצים נפרדים בתוך התיקייה. בגלל ריבוי העמודות, כדאי לבחור מראש רק את העמודות הרלוונטיות לעבודה שלכם, למשל סוג הטקסט הערבי הנדרש או קודי השפה הספציפיים, כדי לא להעמיס על הזיכרון.

from datasets import load_dataset

ds = load_dataset("nazimali/quran")

הרישיון

המאגר מופץ תחת רישיון cc-by-3.0. מותר להשתמש בו לצרכים אישיים ומסחריים, לשנות אותו ולבנות עליו מוצרים ומודלים, בתנאי שנותנים קרדיט מתאים ליוצר. אין דרישה לשתף את התוצרים באותו רישיון.

הרישיון המלא ב־Hugging Face ↗