cs-fleurs
קוד פתוחbyancc-by-nc-4.02025-07-06
המאגר כולל 300 שעות של דיבור המשלב שתי שפות באותו משפט לאורך 113 צמדי שפות. הוא נבנה במיוחד כדי לאמן ולבחון מודלים של זיהוי ותרגום קולי במצבים של ערבוב שפות.
- 2,549הורדות בחודש
- 19לייקים
מה זה
הנתונים מחולקים לחמישה חלקים ומבוססים על הקלטות קוליות. חלק אחד בלבד, Read-Test, מורכב מדיבור אנושי מוקרא בהיקף של 17 שעות על פני 14 צמדים של שפה זרה ואנגלית. שאר המאגר מבוסס על דיבור סינתטי שנוצר באמצעות מנועי המרת טקסט לדיבור.
חלק האימון, XTTS-Train, מכיל 128 שעות סינתטיות שנוצרו במודל XTTS עבור 16 צמדי שפות מול אנגלית. לצדו יש שלושה חלקי בדיקה נוספים: XTTS-Test1, XTTS-Test2 שמתמקד בערבוב של ערבית, סינית, הינדי וספרדית עם שפות אחרות, ו־MMS-Test שנוצר בשיטת שרשור וכולל 56 שעות ב־45 צמדי שפות מול אנגלית.
מתאים ל
- אימון מודלי תמלול
אימון זיהוי קולי להתמודדות עם משפטים שמשלבים מילים באנגלית יחד עם שפת אם.
- הערכת ביצועי תרגום קולי
בדיקת הדיוק של מודלים כשדוברים עוברים בין שפות שונות באמצע השיחה.
- מחקר על דיבור סינתטי
השוואה בין ביצועי מודלים על דיבור אנושי מוקרא לבין דיבור שנוצר ב־XTTS וב־MMS.
איפה זה נופל
הבעיה המרכזית היא שרוב המאגר הוא שמע מסונתז ולא דיבור טבעי של בני אדם. אימון על שמע של מנועי TTS יוצר לפעמים מודלים שלא מתמודדים טוב עם רעשי רקע, מבטאים אמיתיים או דיבור יומיומי משובש. בנוסף, הכרטיס לא מפרט את רשימת כל 52 השפות מעבר לערבית, סינית, הינדי, ספרדית ואנגלית, ולכן אי אפשר לדעת מראש אם יש בו ייצוג לעברית בלי לבדוק את הקבצים בפנים.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
לא. הרישיון המוגדר הוא CC BY-NC 4.0, שאוסר במפורש כל שימוש מסחרי בנתונים. הוא מתאים אך ורק לצורכי מחקר, בדיקות פנימיות ופיתוח אקדמי.
האם יש במאגר עברית?
הכרטיס מציין 52 שפות ו־113 צמדים, אך מפרט בשמותיהן רק את ערבית, סינית, הינדי, ספרדית ואנגלית. קיומה של עברית אינו מצוין במסמך ודורש בדיקה ידנית בתוך הקבצים.
איך נאסף השמע?
רק 17 שעות מתוך 300 נאספו מהקראה אנושית אמיתית. שאר 283 השעות יוצרו באופן סינתטי באמצעות מודלים גנרטיביים כמו XTTS ומערכות שרשור קוליות של MMS.
במה הוא שונה ממאגרי דיבור רגילים?
רוב מאגרי הדיבור מתמקדים בשפה אחת בכל קטע. כאן כל ההקלטות מבוססות על ערבוב של שתי שפות בתוך אותו רצף דיבור, תופעה שנקראת code-switching.
איך טוענים
טוענים את הנתונים ישירות בספריית datasets עם הפקודה load_dataset("byan/cs-fleurs"), או משכפלים את המאגר באמצעות Git LFS. המאגר פתוח לציבור ללא צורך באישור גישה מראש. קחו בחשבון שיש בו מעל 90 אלף קבצים, בעיקר קובצי wav בתוך תיקיות של החלקים השונים, כך שהורדה מלאה דורשת מקום אחסון וזמן.
from datasets import load_dataset
ds = load_dataset("byan/cs-fleurs")הרישיון
הרישיון הוא CC BY-NC 4.0. המשמעות פשוטה: השימוש מותר למטרות מחקר ולימוד בלבד, עם מתן קרדיט ליוצרים. אסור להשתמש בנתונים למטרות מסחריות, ומודל שאומן עליהם אינו מיועד לפריסה במוצר מסחרי.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא