OpenDialog
קוד פתוחk2-fsacc-by-nc-4.02025-07-09
מאגר שיחות מדוברות בהיקף של 6,800 שעות באנגלית ובסינית מהעולם האמיתי. הוא מיועד למי שרוצה לאמן מודלים של דיאלוג קולי שמתמודדים עם דיבור חי.
- 860הורדות בחודש
- 24לייקים
מה זה
המאגר מכיל הקלטות של שיחות מדוברות שנאספו ממקורות שונים מהעולם האמיתי, במטרה לספק דאטה לאימון מודלים לייצור דיאלוגים קוליים. הדאטהסט הוצג במסגרת המאמר על ZipVoice-Dialog, ומחולק לשתי שפות עיקריות. החלק המרכזי מורכב משיחות באנגלית בהיקף של 5074 שעות, והחלק השני כולל שיחות בסינית בהיקף של 1759 שעות.
כרטיס הדאטהסט הנוכחי לא מפרט את אופן הסינון, מהם בדיוק מקורות השמע או אילו מטא-דאטה ותמלולים מוצמדים לכל קובץ. הנתונים מאוחסנים בארכיוני tar המחולקים לפי שפות, ללא פירוט נוסף בדף הראשי על חלוקה מוגדרת מראש לסט אימון, בדיקה או ולידציה.
מתאים ל
- אימון מודלי שיחה קולית
אימון מודלים לייצור דיאלוג דבור באנגלית או בסינית על בסיס שיחות חיות.
- מחקר בתחום יצירת דיבור
ניסויים אקדמיים בשיטות כמו flow matching לתחום יצירת הדיבור הדו-כיווני.
- בדיקת ביצועים באנגלית ובסינית
בחינת יכולות של מודלי שמע על הקלטות שמגיעות מהעולם האמיתי ולא מאולפן.
איפה זה נופל
המאגר מוגבל לשתי שפות בלבד, אנגלית וסינית. עברית לא קיימת כאן בכלל, כך שלפרויקטים מקומיים הוא לא רלוונטי ללא אימון נוסף. כרטיס הדאטהסט חסר מאוד בפרטים. אין בו הסבר על האופן שבו סוננו ההקלטות, איכות האודיו, רעשי רקע, או ההטיות הדמוגרפיות של הדוברים. לפני שרצים לאמן, תצטרכו לפתוח את הקבצים ולבדוק עצמאית מה איכות התוכן והאם יש בו שפה פוגענית או מידע רגיש.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא. הרישיון המוגדר הוא cc-by-nc-4.0, שאינו מתיר שימוש מסחרי מכל סוג. הוא מיועד למחקר בלבד, ואימון מודל למכירה או שירות בתשלום מהווה הפרה של הרישיון.
האם יש במאגר שיחות בעברית?
לא. המאגר מכיל אך ורק שיחות באנגלית בהיקף של 5074 שעות ובסינית בהיקף של 1759 שעות. אין בו נתונים בשפות אחרות.
איך נאסף המידע ומה איכותו?
היוצרים מציינים שהשמע מגיע מהעולם האמיתי, אך כרטיס הדאטהסט לא מפרט את המקורות הספציפיים או תהליך הסינון. תיאלצו לבדוק בעצמכם את קובצי ה־tar כדי לאמוד את איכות ההקלטה ורעשי הרקע.
האם צריך אישור מיוחד כדי להוריד את הקבצים?
לא. המאגר פתוח להורדה ישירה מ־Hugging Face או מ־ModelScope. כל הנתונים ארוזים בקובצי tar ממוספרים שניתן למשוך ללא תהליך הרשמה מיוחד.
איך טוענים
ההורדה מתבצעת ישירות מ־Hugging Face או דרך ModelScope ללא צורך בהרשאה מיוחדת. הנתונים מחולקים למבנה ספריות שכולל 111 קבצים, בעיקר ארכיוני tar ממוספרים כמו en_0.tar ו־en_1.tar תחת תיקיית השמע של האנגלית. תצטרכו להוריד את הארכיונים, לחלץ אותם מקומית ולבדוק את הפורמט הפנימי של קובצי האודיו והתמלולים לפני שתוכלו לבנות צינור אימון.
from datasets import load_dataset
ds = load_dataset("k2-fsa/OpenDialog")הרישיון
הרישיון הוא cc-by-nc-4.0. המשמעות פשוטה, מותר להשתמש בדאטהסט למחקר, ניסויים ופיתוח פנימי, אבל אסור להשתמש בו לצרכים מסחריים. בנוסף, חובה לתת ייחוס ליוצרים. אם המטרה היא מוצר שמכניס כסף, אי אפשר לבנות על המאגר הזה.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא