Mana-TTS
קוד פתוחMahtaFetratcc0-1.02024-08-15
מעל 114 שעות שמע של דובר יחיד בפרסית באיכות של 44.1 קילוהרץ. המאגר מיועד לאימון מודלי הקראת טקסט ושוחרר בנחלת הכלל ללא מגבלות זכויות יוצרים.
- 1,423הורדות בחודש
- 29לייקים
מה זה
כל רשומה במאגר כוללת מקטע אודיו כמערך נומרי, תעתיק טקסטואלי מלא, משך המקטע בשניות ומדדי התאמה. בין השדות תמצאו דירוג איכות התאמה של HIGH או MIDDLE, שגיאות תווי מילים ביחס לתעתיק המשוער, אופן ההתאמה לטקסט המקור ורשימת מערכות זיהוי הדיבור ששימשו בתהליך עד למציאת התאמה.
ההקלטות נאספו מהמגזין החודשי האיראני נסל-י מאנא, המיועד לקהילת העיוורים במדינה, ומכסות מגוון נושאים. החוקרים השתמשו בצינור עיבוד פתוח שביצע חיתוך אוטומטי של מקטעי האודיו והתאמה כפויה מול טקסט המקור שנלקח ממאמרי המגזין.
הנתונים מפוצלים לעשרות קובצי פארקט נפרדים, מה שמקל על הורדה מדורגת של חלקים ספציפיים במקום משיכה של כל הנפח בבת אחת.
מתאים ל
- אימון מודלי הקראה בפרסית
בסיס מעולה לפיתוח מודלי המרת טקסט לדיבור איכותיים בפרסית בזכות נפח של 114 שעות מדובר יחיד.
- טכנולוגיות נגישות ומקריאי מסך
פיתוח מנועי קול פרסיים למקריאי מסך עבור עיוורים וכבדי ראייה, המטרה שלשמה נאסף החומר במקור.
- הערכת מערכות זיהוי דיבור
שימוש במקטעים המיושרים ובמדדי השגיאות הקיימים ברשומות לבדיקת מודלי ASR בפרסית.
איפה זה נופל
המאגר מוגבל אך ורק לשפה הפרסית, ואין בו ייצוג לשום שפה אחרת, כולל עברית. בנוסף, מדובר בהקלטות של דובר יחיד, כך שלא תוכלו לאמן עליו מודלים שמפיקים קולות מגוונים או קול נשי בלי שילוב מקורות חיצוניים.
התעתיקים עברו סינון אלגוריתמי שכולל שתי רמות איכות התאמה, ולכן חובה לסנן את הרשומות לפי שדה איכות ההתאמה ושדה ה־CER לפני שמזינים אותן למודל ייצור, כדי למנוע כניסת שגיאות תמלול.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, הרישיון הוא CC0 ולכן אין מניעה חוקית לבנות עליו מודלים מסחריים או להטמיע אותו במערכות פנימיות. היוצרים רק מדגישים שהשימוש צריך להיות אתי ולא למטרות הונאה או גניבת זהות קולית.
האם המאגר כולל עברית או שפות נוספות?
לא, המאגר כולו בפרסית בלבד. הוא לא מתאים לפיתוח מודלים לעברית, אלא אם משתמשים בו במסגרת אימון רב-לשוני רחב יותר שבו מוסיפים דאטהסטים אחרים.
מאיפה הגיעו ההקלטות ואיך אימתו את הטקסט?
ההקלטות נלקחו מהמגזין האיראני נסל-י מאנא. החוקרים השתמשו בצינור אוטומטי שביצע חיתוך, הרצת מנועי ASR והתאמה מול המאמרים הכתובים של המגזין כדי לאתר את התעתיק המדויק.
איך אפשר לוודא שהאיכות של הדגימות מספיק טובה?
הרשומות מכילות מטא-דאטה מפורט שכולל עמודת match_quality עם ערכי HIGH או MIDDLE ומדד שגיאות תווים. מומלץ לסנן את הנתונים בקוד ולהשאיר רק את המקטעים שסווגו ברמת הדיוק הגבוהה ביותר.
איך טוענים
טוענים את הנתונים ישירות דרך ספריית datasets בפייתון או מורידים קובצי פארקט בודדים עם פקודת wget פשוטה. אין צורך באישור גישה מראש או בהתחברות עם טוקן. המאגר מכיל 79 קבצים, כולל קובצי חלקים כמו dataset_part_001.parquet, כך שכדאי להגדיר מראש קובץ ספציפי בפרמטר data_files כדי לא להציף את הזיכרון. השדות הקריטיים לעבודה הם transcript שמכיל את הטקסט הנקי, audio עם הנתונים הנומריים, ו־sample_rate שמקובע על 44,100 הרץ.
from datasets import load_dataset
ds = load_dataset("MahtaFetrat/Mana-TTS")הרישיון
המאגר שוחרר תחת רישיון CC0 1.0, שמשמעותו ויתור מלא על זכויות יוצרים ומסירתו לנחלת הכלל. מותר להשתמש בו לצרכים מחקריים ומסחריים, לערוך אותו ולשלב אותו במוצרים סגורים בלי חובת ייחוס ובלי דרישה לשתף את המודל המאומן תחת אותו רישיון. יוצרי המאגר הוסיפו בקשה אתית להימנע משימושים פוגעניים כמו התחזות קולית.