common_language
קוד פתוחspeechbraincc-by-4.02022-03-02
המאגר כולל 45.1 שעות הקלטה מאוזנות ב־45 שפות שונות מתוך פרויקט Common Voice. הוא מתאים למי שרוצה לאמן או לבדוק מודל לזיהוי שפה מדוברת בלי להתעסק בסינון ואיזון ידני.
- 515הורדות בחודש
- 44לייקים
מה זה
המאגר נבנה על בסיס הקלטות קול שנתרמו לפרויקט Common Voice, מתוכן נבחרו בדיוק 45 שפות, שעה אחת לכל שפה. כל רשומה כוללת את קובץ השמע, מזהה שפה מספרי, מזהה דובר, משפט הטקסט שהוקרא, ושדות דמוגרפיים כמו גיל ומגדר שלעיתים קרובות נשארים ללא הגדרה.
החלוקה הפנימית מאוזנת מראש לשלושה חלקים: אימון, פיתוח ומבחן. חלק האימון כולל 177,552 קטעי דיבור מ־11,189 דוברים באורך כולל של כ־30 שעות, כ־40 דקות לכל שפה. חלקי הפיתוח והמבחן מכילים כל אחד כ־47 אלף קטעים ו־7.5 שעות נוספות, כ־10 דקות לכל שפה, עם דוברים נפרדים שמונעים זליגת מידע.
מתאים ל
- זיהוי שפה מדוברת
אימון ומדידה של מודלי סיווג אודיו שמזהים איזו שפה מדוברת מתוך 45 אפשרויות.
- בנצ'מרק למודלי שמע
הערכת ביצועים מהירה על חלוקות מבחן מוכנות ומאוזנות בלי להוריד את כל Common Voice.
- בדיקת הכללה בין דוברים
בחינת יכולת המודל להכליל על דוברים חדשים לגמרי הודות להפרדה מלאה בדוברים בין הפיצולים.
איפה זה נופל
שעה אחת בלבד לכל שפה היא כמות נמוכה מאוד, ולא הייתי משתמש בזה לאימון מודל סופי מאפס אלא רק לבדיקות או כוונון עדין. עברית לא קיימת ברשימת השפות. שדות הגיל והמגדר מגיעים בחלק גדול מהמקרים עם הערך not_defined, כך שאי אפשר לבנות עליהם לבדיקת הטיות. בנוסף יש שגיאות כתיב ידועות בשמות השפות מונגולית ואוקראינית בתוך המאגר, וקיים איסור מפורש לנסות לזהות את האנשים שמאחורי ההקלטות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, רישיון CC-BY-4.0 מאפשר שימוש מסחרי חופשי. התנאי המרכזי הוא מתן קרדיט מתאים ליוצרים המקוריים ועמידה בכלל שלא מנסים לחשוף את זהות הדוברים.
האם יש במאגר הקלטות בעברית?
לא, עברית אינה נכללת ב־45 השפות שנבחרו למאגר הזה. הרשימה כוללת שפות כמו ערבית, אנגלית, גרמנית, רוסית ופרסית, אך ללא עברית.
מה ההבדל בין המאגר הזה לבין Common Voice הרגיל?
Common Voice המלא שוקל מאות ג'יגה בייט ואינו מאוזן בין שפות. כאן חתכו בדיוק שעה אחת לכל שפה וחילקו את הדוברים מראש לאימון, פיתוח ומבחן.
האם אפשר להשתמש במאגר למשימות זיהוי דיבור (ASR)?
למרות ששדה הטקסט קיים ברשומות, המאגר נועד ומותאם בעיקר לזיהוי שפה. שעה אחת של אודיו לכל שפה אינה מספיקה לאימון מודל תמלול סביר.
איך טוענים
טוענים את המאגר ישירות דרך ספריית datasets בלי צורך באישור גישה מוקדם או מפתח. המידע שמור בקובץ zip ומכיל קובץ סקריפט ייעודי לטעינה. השמע מגיע בקצב דגימה מקורי של 48kHz, וכדאי לשים לב שגישה לעמודת האודיו גוררת פענוח והמרה אוטומטיים שגוזלים זמן וזיכרון, לכן צריך לפנות קודם לאינדקס הרשומה ורק אז לעמודת השמע. השדות הקריטיים לעבודה הם audio לתכולת הגל ו־language שמחזיר את מזהה המחלקה.
from datasets import load_dataset
ds = load_dataset("speechbrain/common_language")הרישיון
המאגר מופץ תחת רישיון Creative Commons Attribution 4.0 International. הרישיון מתיר שימוש מסחרי ומחקר, כולל שינוי ושיתוף של המידע, כל עוד נותנים קרדיט מלא ליוצרים ומציינים אם נעשו שינויים. אין דרישה לשתף את המודלים שתאמנו באותו הרישיון.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס