JamendoMaxCaps
קוד פתוחamaai-labcc-by-sa-3.02024-11-21
מעל 362,000 קטעי מוזיקה אינסטרומנטלית מג'מנדו עם תיאורי טקסט סינתטיים ומטא-דאטה מועשר. הוא מיועד למי שמאמן מודלים של הבנת מוזיקה או חיפוש קטעים לפי תיאור מילולי חופשי.
- 2,715הורדות בחודש
- 25לייקים
מה זה
המאגר כולל מעל 362,000 רצועות אינסטרומנטליות שנאספו מפלטפורמת Jamendo. כל רשומה כוללת את קובץ השמע המקורי ומזהה ייחודי, לצד מטא-דאטה מקיף שמחולק לקובצי JSONL לפי תאריכים. המידע המקורי מחזיק פרטים כמו שם היצירה, האמן, האלבום, קישורי הורדה, מהירות וסיווג כלי. כדי להתמודד עם שדות ריקים, החוקרים הפעילו מערכת אחזור שמוצאת שירים דומים לפי מאפיינים מוזיקליים ומטא-דאטה, והשלימו מידע חסר בעזרת מודל שפה מקומי.
התוספת המרכזית בחבילה היא קובץ תיאורים לקטעים באורך שלושים שניות, שנוצרו על ידי המודל Qwen2-Audio ונשמרו בקובץ נפרד. התיאורים האלה מפרטים סולם, קצב בדפיקות לדקה, כלי נגינה דומיננטיים, ז'אנר, אווירה והתאמה לשימושים כמו פסקול למשחקים. במאגר עצמו יש מעל 3,400 קבצים, והשמע מאורגן כקובצי Parquet בתיקיית הנתונים הראשית לצד קובצי המטא-דאטה.
מתאים ל
- אימון מודלי טקסט לשמע
חיבור תיאורי הטקסט המפורטים של שלושים שניות לקטעי השמע לאימון מודלים של יצירת מוזיקה או הבנת סאונד.
- מנועי אחזור מוזיקלי
פיתוח מערכות חיפוש שמאתרות שירים לפי תיאור שפה טבעית, ז'אנר או מאפייני קצב ספציפיים.
- סיווג אוטומטי של רצועות
בניית מסווגים של ז'אנר ומצב רוח על בסיס השילוב שבין המטא-דאטה המועשר למאפייני האודיו.
איפה זה נופל
כל התיאורים הטקסטואליים לקטעי השמע נוצרו על ידי מודל שפה ולא נכתבו או נבדקו בידי מוזיקאים אנושיים, מה שמכניס הזיות וטעויות בזיהוי סולמות או כלים. בנוסף, חלקי מטא-דאטה חסרים הושלמו בעזרת מודל שפה מקומי על בסיס דמיון לשירים אחרים, כך שלא כל המידע היסטורי או מקורי של האמן. הדאטהסט מוגבל למוזיקה אינסטרומנטלית בלבד באנגלית, בלי שירה או דיבור, ולא מציג שום ייצוג לשפות אחרות או למוזיקה ישראלית מקומית.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
הרישיון של המאגר הוא cc-by-sa-3.0, שמתיר שימוש מסחרי עקרונית אבל מחייב שיתוף זהה. המשמעות היא שכל עבודה נגזרת או שינוי של הדאטהסט חייבים להתפרסם תחת אותו רישיון בדיוק. בנוסף, קובצי המקור בג'מנדו כוללים בחלקם רישיונות פרטניים עם הגבלות שימוש לא מסחריות, כך שיש סיכון משפטי אמיתי בשימוש למוצר סגור.
האם יש בדאטהסט תמיכה בעברית?
אין שום תמיכה בעברית. תיאורי השמע שנוצרו על ידי המודל כתובים באנגלית בלבד. גם המטא-דאטה והתגיות של היצירות נשענים על אלפבית לטיני ואנגלית.
מאיפה הגיעו התיאורים של השירים?
התיאורים אינם טקסט מקורי שנכתב על ידי המאזינים או האמנים. הם הופקו באופן סינתטי עבור קטעים באורך שלושים שניות באמצעות מודל השמע Qwen2-Audio. הטקסט כולל ניתוח של מבנה הקטע, ז'אנר, קצב והצעות לשימוש כמו פסקול.
מה ההבדל בין המאגר הזה לבין הורדה ישירה מג'מנדו?
המאגר מרכז קבצי שמע ומטא-דאטה שנאספו לאורך שנים בפורמט מסודר שמוכן לעבודה, ומכיל השלמות של נתונים חסרים שבוצעו באמצעות מודל שפה. בנוסף, הוא כולל תיאורי תוכן עשירים לכל קטע, רכיב שבדרך כלל חסר לחלוטין ברשומות הגולמיות של פלטפורמת ג'מנדו.
איך טוענים
טוענים את הנתונים ישירות דרך הספרייה של Hugging Face תוך הפניה לתיקיית data, שמחזיקה קובצי Parquet עם מערכי השמע. הגישה חופשית ואין צורך באישור מיוחד. לכל דגימה יש שדות של array, מזהה נתיב וקצב דגימה, ומשם אפשר לשמור אותם כקובצי MP3 בעזרת ספריות כמו soundfile. המטא-דאטה והתיאורים יושבים בקובצי JSONL נפרדים, ביניהם קובץ התיאורים לקטעי שלושים שניות. המאגר מכיל 3,445 קבצים ומאות אלפי שירים, אז צריך לוודא שיש לכם מספיק נפח אחסון פנוי ורוחב פס יציב לפני שמתחילים להוריד הכל.
from datasets import load_dataset
ds = load_dataset("amaai-lab/JamendoMaxCaps")הרישיון
המאגר מופץ ברישיון cc-by-sa-3.0. מותר להשתמש בנתונים לצרכים מסחריים ומחקריים, אך חובה לתת ייחוס הולם ליוצרים המקוריים. סעיף השיתוף הזהה מחייב שאם אתם משנים, מעבדים או בונים יצירה נגזרת על בסיס הנתונים האלה, עליכם להפיץ את התוצאה תחת אותו רישיון בדיוק. הדבר עלול להטיל מגבלות משפטיות על משקלי מודל שאומן ישירות עליו.