indic-diarbench
קוד פתוחsarvamaicc-by-4.02026-07-25
בנצ'מרק של כ־108 שעות אודיו רב-דוברים להערכת זיהוי דיבור והפרדת דוברים ב־22 שפות הודיות. הוא נותן תמלולים מדויקים עם חפיפות קוליות אמיתיות שקשה למצוא במאגרים קוליים רגילים.
- 2,081הורדות בחודש
- 18לייקים
מה זה
המאגר מכיל 1,164 קטעי אודיו של שיחות טבעיות במונו בקצב דגימה של 16kHz, שמגיעים מ־590 הקלטות מקוריות שונות. כל רשומה כוללת מזהי דגימה והקלטה, שפה, משך, מספר דוברים ותמלול מיושר בזמנים שמייחס כל משפט לדובר הספציפי. התמלול נבנה באמצעות טיוטות ממספר מנועי זיהוי דיבור שעברו תיקון ובקרה ידנית מלאה של מומחים אנושיים, כולל טיפול בערבוב שפות עם אנגלית בשני פורמטי כתב שונים.
ההקלטות מחולקות לשלושה תנאים אקוסטיים ברורים. התנאי הראשון הוא שיחות וירטואליות עם מיקרופון קרוב לכל דובר שמכסות את כל 22 השפות בהיקף של כ־53 שעות. התנאי השני מציג הקלטות מיקרופון מרוחק עם הדהוד ורעשי רקע ב־8 השפות המדוברות ביותר, והתנאי השלישי כולל כ־28 שעות של שיחות חופשיות שנאספו מיוטיוב ב־10 שפות נפוצות.
מתאים ל
- הערכת מודלי דיאריזציה
בדיקת יכולת המודל לזהות חילופי דוברים בתנאי חפיפה קולית קשים בשיחות אמיתיות.
- מדידת ASR משולב דוברים
הערכת תמלול שמייחס טקסט לדובר הנכון עבור מנועי שמע בשפות דרום אסיה.
- בחינת עמידות לרעש והדהוד
השוואת ביצועי מודלים בין מיקרופון קרוב, רעשי חדר וסרטוני יוטיוב לא מבוקרים.
איפה זה נופל
הפיזור בין השפות לא מאוזן כלל. שפות מרכזיות כמו בנגלי, הינדי או גוג'ראטי מקבלות מעל 10 שעות בשלושת תנאי ההקלטה, בעוד שפות כמו דוגרי, קשמירי או אסאמית מקבלות פחות משעה וחצי ורק בתנאי מיקרופון קרוב. חפיפת הדיבור מגיעה לכמעט 25 אחוז בחלק מהשפות ומאתגרת מודלים סטנדרטיים. אין כאן עברית או שפות מערביות, והמאגר מוגדר כסט בדיקה בלבד ולא מיועד לאימון מודלים מאפס.
שאלות
נפוצות
האם המאגר מתאים לפיתוח מערכות בעברית?
לא. המאגר מכסה אך ורק 22 שפות רשמיות של הודו, עם ערבוב מילים באנגלית. אין בו שום דאטה בעברית או בהקשר ישראלי.
האם מותר להשתמש בו למוצר מסחרי?
כן, רישיון CC BY 4.0 מתיר שימוש מסחרי מלא. התנאי היחיד הוא מתן ייחוס מתאים ליוצרים וקישור לרישיון כפי שמופיע בתיעוד.
למה יש רק 590 הקלטות אם יש מעל אלף דגימות?
הקטעים במאגר נחתכו מתוך 590 שיחות מקוריות, כך שיש הקלטות שמתוכן הופקו מספר קטעים שונים. יש הקלטה אחת שממנה נגזרו 21 קטעים, ולכן חובה לקבץ לפי מזהה ההקלטה כשמחשבים מדדים.
במה הוא שונה ממאגרי דיבור רגילים?
הוא מתמקד בשיחות מרובות דוברים עם ממוצע חפיפה של 12.8% ותנאי שטח מגוונים. בנוסף, כל התמלולים מיושרים בזמנים לכל דובר ועברו אימות אנושי קפדני ולא רק זיהוי אוטומטי.
איך טוענים
טוענים את הנתונים דרך ספריית datasets ישירות מפייתון, בציון השפה המבוקשת והפיצול test. המאגר פתוח לגישה חופשית ללא תהליך אישור, והוא מחולק ל־24 קובצי parquet לפי שפות. בעבודה עם הנתונים, שדה חובה לתשומת לב הוא recording_id. מכיוון שמספר קטעים נחתכו מאותה הקלטת מקור, חובה לקבץ לפי המזהה הזה כדי למנוע דליפת דוברים או הטיות אקוסטיות בבדיקות.
from datasets import load_dataset
ds = load_dataset("sarvamai/indic-diarbench")הרישיון
המאגר מופץ תחת רישיון CC BY 4.0. אפשר להשתמש בנתונים לצרכים מחקריים ומסחריים, להתאים אותם ולבנות עליהם מוצרים, כל עוד מעניקים קרדיט מתאים ליוצרים ומציינים אם נעשו שינויים. הרישיון אינו כופה שיתוף של מודלים שאומנו תחת אותו הרישיון.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס