openslr
קוד פתוחopenslrcc-by-sa-4.02022-03-02
המאגר מרכז הקלטות קול מתומללות במגוון שפות אזוריות ופחות נפוצות. הוא מתאים למי שבונה מודלי זיהוי דיבור או הקראה וזקוק לנתונים מאומתים ידנית.
- 582הורדות בחודש
- 29לייקים
מה זה
המאגר מאגד בתוכו שורה של אוספי משנה מבית פרויקט OpenSLR, שנוצרו ברובם משיתופי פעולה בין גוגל לאוניברסיטאות שונות בעולם, או דרך פרויקטי התנדבות ומיקור המונים. הנתונים מתחלקים לשני סוגים מרכזיים, ערכות ייעודיות לזיהוי דיבור שמכילות הקלטות בהיקפים של כמאתיים אלף היגדים לחלק מהשפות, וערכות המיועדות למודלי דיבור באיכות גבוהה עם מספר דוברים.
המבנה הפנימי בכל תת-מאגר מורכב מקובצי שמע בפורמט WAV לצד קובצי TSV שמכילים את התמלול הטקסטואלי, מזהה הקובץ, ובחלקם גם מזהה משתמש אנונימי. כל האוספים עברו בדיקות איכות ידניות, אם כי המפתחים מדגישים שייתכנו שגיאות נקודתיות בתמלול.
מתאים ל
- אימון מודלי זיהוי דיבור
אימון מערכות ASR לשפות כמו בנגלית, נפאלית או סינהלית על בסיס עשרות אלפי היגדים מתומללים.
- הקראת טקסט רב-דוברת
בניית מודלי TTS איכותיים לשפות מקומיות תוך שימוש במזהי דוברים מופרדים.
- בדיקת ביצועים בניבים
בחינת יכולת הדיוק של מודלים קיימים על מבטאים ספציפיים באנגלית ניגרית או ספרדית צ'יליאנית.
איפה זה נופל
המאגר לא כולל עברית. השפות המיוצגות הן ספציפיות מאוד, ביניהן שפות מדרום אסיה, דרום אמריקה, אפריקה וניבים מקומיים של ספרדית ואנגלית. הנתונים נאספו בין 2016 ל־2019, ומאחר שחלק גדול מההקלטות נאסף ממתנדבים במיקור המונים, יש לקחת בחשבון שגיאות אנוש בתמלול, שונות באיכות ההקלטה ואי-אחידות בעוצמת השמע. לא הייתי משליך מודל כזה למוצר בלי ניקוי נוסף וסינון רעשים ידני.
שאלות
נפוצות
האם יש במאגר הקלטות בעברית?
לא. המאגר מכיל שפות כמו אפריקאנס, בנגלית, חמרית, קטלאנית, ספרדית ועוד, אך אין בו עברית בכלל.
האם מותר להשתמש בחומרים למטרה מסחרית?
כן, רישיון CC-BY-SA-4.0 מאפשר שימוש מסחרי. עם זאת, הוא מחייב מתן קרדיט לגוגל ולשותפים, ומחייב שכל שינוי או נגזרת של הדאטהסט ישוחררו תחת אותו רישיון בדיוק.
מאיפה הנתונים הגיעו ואיך הם נאספו?
הנתונים נאספו על ידי גוגל בשיתוף פעולה עם מוסדות אקדמיים שונים, או דרך הקלטות של מתנדבים במיקור המונים. חלק ממאגרי ה־TTS כוללים הקלטות מבוקרות יותר, בעוד מאגרי ה־ASR הגדולים מכילים דיבור טבעי יותר.
איך טוענים
הטעינה נעשית דרך סקריפט הפייתון openslr.py המצורף למאגר בהאגינג פייס. אין צורך באישור גישה מיוחד, וההורדה פתוחה לחלוטין. הנתונים מגיעים כקובצי אודיו WAV וטבלאות TSV, כך שחשוב לשים לב לשדות של מזהה הקובץ והטקסט המתומלל. היקף הרשומות שמופיע במאגר הוא בין אלף לעשרת אלפים שורות, אך אוספי ה־SLR המקוריים כוללים מאות אלפי היגדים, לכן כדאי לוודא איזה תת-אוסף מורידים בפועל.
from datasets import load_dataset
ds = load_dataset("openslr/openslr")הרישיון
הרישיון הוא CC-BY-SA-4.0. המשמעות היא שמותר להשתמש במידע גם לפרויקטים מסחריים, אך יש חובה לתת ייחוס ליוצרים המקוריים. סעיף ה־ShareAlike מחייב שכל יצירה נגזרת או שינוי של הנתונים יופצו תחת אותו הרישיון בדיוק. אם אתם מאמנים מודל שמפיק משקלים חדשים, יש לוודא שהפצת המודל לא תגרור חשיפה של קוד או נתונים שאתם מעוניינים להשאיר קנייניים.
- שימוש מסחרי
- שינוי הקוד
- חובת שיתוף באותו רישיון