AISHELL-1

מה זה

המאגר כולל הקלטות קוליות של 400 דוברים מאזורי מבטא שונים ברחבי סין, יחד עם תמלולים ידניים בסינית. החומרים מגיעים מבית חברת Beijing Shell Shell Technology, שהקליטה את המשתתפים בסביבה משרדית שקטה באמצעות מיקרופונים באיכות גבוהה, ולאחר מכן המירה את האודיו לתדר של 16kHz.

הקבצים במאגר מחולקים לספריות ארכיון לפי דוברים עם שמות כמו S0002 עד S0007, לצד קובץ טקסט מרכזי של תמלולים, aishell_transcript_v0.8.txt. לפי נתוני המפרסמים, התמלול הידני עבר בקרת איכות קפדנית ובדיקות מקצועיות, ומגיע לרמת דיוק של מעל 95 אחוזים. המטרה המוצהרת של הפרויקט היא לספק כמות נתונים מתונה שמתאימה לחוקרים ומפתחים שעושים את צעדיהם הראשונים בתחום זיהוי הדיבור.

מתאים ל

• אימון מודל זיהוי קולי

  אימון מודלי ASR למנדרינית באמצעות שמע נקי ותמלול קיים ב־16kHz.

• בנצ'מרק למחקר

  הערכת ביצועים והשוואת ארכיטקטורות זיהוי דיבור על בסיס נתונים סטנדרטי.

• זיהוי מבטאים בסינית

  בדיקת עמידות של מודלים למגוון מבטאים גיאוגרפיים שונים בסין.

איפה זה נופל

ההקלטות נעשו בחדרים שקטים בלבד ובציוד איכותי, כך שאין כאן רעשי רקע, שיחות רחוב או הפרעות של העולם האמיתי. המאגר מוגבל אך ורק למנדרינית, ולמרות שהוא כולל מבטאים שונים, הדיוק של התמלול עומד על כ־95 אחוזים, מה שאומר שחלק קטן מהטקסט מכיל שגיאות מובנות. בנוסף, מודל שיאומן רק עליו יתקשה להתמודד עם דיבור ספונטני או סביבה רועשת.

איך טוענים

המאגר מכיל 105 קבצים, והגישה אליו פתוחה לגמרי ללא צורך באישור מיוחד. הנתונים מאורגנים בארכיוני tar.gz שמכילים קובצי אודיו בפורמט wav שנדגמו ב־16kHz, לצד קובץ תמלול יחיד בפורמט טקסט. לפני שמתחילים לעבוד, תצטרכו להוריד את הארכיונים, לחלץ אותם מקומית, ולחבר בין מזהה הדובר וקובץ השמע לבין שורת הטקסט התואמת מתוך קובץ התמלול.

from datasets import load_dataset

ds = load_dataset("AISHELL/AISHELL-1")

הרישיון

המאגר מתויג ברישיון apache-2.0, שמאפשר שימוש חופשי ושינוי של הקוד והנתונים. עם זאת, בתיאור הטקסטואלי של החברה צוין במפורש שהדאטה מיועד לשימוש אקדמי בלבד. הסתירה הזו מחייבת זהירות, ואם אתם מתכננים מוצר מסחרי, כדאי לבדוק את העניין מול החברה המפרסמת.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗