yodas2_sidon

מה זה

הנתונים מבוססים על מאגר YODAS-2, שמקורו בסרטוני יוטיוב במגוון שפות, כולל ערבית, אפריקאנס ובולגרית. היוצרים העבירו את כל קטעי השמע דרך מודל השיקום Sidon כדי לסנן רעשי רקע ולשפר את בהירות הדיבור, ולאחר מכן דגמו את האודיו מחדש לתדר של 24 קילו-הרץ בגלל מגבלות אחסון.

כל רשומה במאגר מורכבת מקובץ אודיו בפורמט FLAC בערוץ בודד, ולצדו קובץ מטא-דאטה אופציונלי. קובץ המידע כולל תמלול של הקטע, מזהה הסרטון המקורי ביוטיוב ואת שפת הדיבור. המאגר כולו מחולק לאלפי קובצי ארכיון לפי שפות ותתי-קבוצות.

מתאים ל

• אימון סינתזת דיבור

  אימון מודלי TTS בשפות נתמכות שדורשים אודיו נקי מרעשי רקע בתדר 24kHz.

• מודלי שפה קוליים

  בניית מודלי Spoken Language שמפיקים או מבינים דיבור רציף ומסונן בקנה מידה גדול.

• אימון זיהוי דיבור

  שימוש בקטעים המלווים בתמלול מתוך המטא-דאטה לצורך מודלי ASR רב-לשוניים.

איפה זה נופל

ההסתמכות על יוטיוב גוררת הטיות מובנות בסוגי הדוברים, איכות ההקלטה המקורית ותחומי השיחה. שנית, קובץ המטא-דאטה מוגדר כאופציונלי, מה שאומר שלא לכל קובץ שמע יש תמלול או מזהה סרטון זמינים. בנוסף, עברית אינה מופיעה ברשימת השפות המדווחות במאגר, ואלגוריתם שיקום השמע עלול להכניס ארטיפקטים מלאכותיים לקול המעובד, בייחוד לאחר ההורדה ל־24 קילו-הרץ.

איך טוענים

המאגר שמור בפורמט WebDataset כקבצי tar.gz וכולל מעל 11,000 קבצים ומאות מיליוני רשומות, כך שהורדה מלאה לדיסק המקומי אינה מעשית לרוב המשתמשים. הגישה אליו פתוחה ואינה דורשת אישור מיוחד. הדרך הנכונה לעבוד איתו היא באמצעות הזרמה דרך ספריית datasets עם תמיכה ב־webdataset, תוך סינון לפי תת-הקבוצה והשפה הרלוונטיות לקוד שלכם.

from datasets import load_dataset

ds = load_dataset("sarulab-speech/yodas2_sidon")

הרישיון

המאגר מופץ תחת רישיון CC-BY-3.0. מותר להשתמש בו לצרכים מסחריים ולמחקר, לשנות אותו ולבנות עליו מודלים, כל עוד מעניקים קרדיט מתאים ליוצרים לפי דרישות הרישיון וציטוט המאמרים שצוינו.

הרישיון המלא ב־Hugging Face ↗