laion2B-multi-chinese-subset
קוד פתוחIDEA-CCNLcc-by-4.02022-09-27
חיתוך ממוקד של כ־143 מיליון צמדי תמונה וטקסט בסינית מתוך מאגר LAION הגדול. הוא מיועד למי שמאמן מודלים מולטימודליים וצריך כיסוי רחב של השפה בלי לסנן בעצמו מיליארדי שורות.
- 149הורדות בחודש
- 42לייקים
מה זה
המאגר מכיל תת-קבוצה שנלקחה ישירות מתוך הפרויקט הרב-לשוני של LAION-2B, כשהיא מבודדת אך ורק את החלק שכולל טקסט בסינית. סך הכל מדובר בכ־143 מיליון רשומות של צמדי תמונה וטקסט, המיועדים למשימות כמו חילוץ מאפיינים ואימון ראייה ממוחשבת ושפה. כרטיס המאגר לא מפרט תהליכי סינון מיוחדים שנעשו מעבר לחיתוך לפי שפה.
הרשומות עצמן אינן כוללות קובצי תמונה פיזיים, אלא נתונים טקסטואליים בלבד כמו כתובות URL של התמונות לצד הטקסטים שנאספו מהרשת. כל המידע מחולק על פני 13 קובצי Parquet שונים, כאשר המאגר אינו מציע חלוקה מובנית לסט אימון, ולידציה או בדיקה, אלא מרכז את כל הנתונים תחת פיצול יחיד שנושא את השם train.
מתאים ל
- אימון מודלי CLIP בסינית
חיבור ויישור בין ייצוגי תמונה למלל בסינית עבור מנועי חיפוש מולטימודליים.
- אימון מודלי יצירת תמונה
שימוש בתיאורי התמונות כבסיס ללמידת יצירת תוכן ויזואלי מפקודות טקסט בסינית.
- חילוץ מאפיינים מולטימודלי
יצירת אמבדינגס משותפים לרשתות של ראייה ממוחשבת ושפה טבעית.
איפה זה נופל
הנתונים פורסמו בספטמבר 2022 והם מתבססים על זחילת רשת ישנה יותר, כך שחלק ניכר מכתובות התמונות כבר לא יהיה זמין. הדאטהסט מוגבל אך ורק לסינית, ואין בו שום תמיכה בשפות אחרות או בעברית. בנוסף, הכרטיס לא מדווח על סינון של תוכן פוגעני או בדיקת איכות הטקסט, ולכן חובה לבצע ניקוי מקדים ולבדוק זכויות יוצרים על התמונות עצמן לפני שמשלבים אותן במוצר.
שאלות
נפוצות
האם המאגר כולל תמיכה בעברית?
לא, המאגר מוגדר ומכיל אך ורק טקסטים בשפה הסינית. אין בו רשומות בעברית או תמיכה בריבוי שפות מעבר לסינית.
האם התמונות עצמן מגיעות בתוך ההורדה?
לא, ההורדה כוללת קובצי Parquet בנפח של כ־19 גיגה-בייט המכילים כתובות URL וטקסט בלבד. כדי להשתמש בתמונות, תצטרכו להוריד אותן בעצמכם מהקישורים שברשומות.
האם מותר להשתמש בדאטהסט לפיתוח מסחרי?
הרישיון המדווח הוא CC-BY-4.0, שמאפשר שימוש מסחרי בכפוף למתן קרדיט. יחד עם זאת, הרישיון חל על קובצי המידע והקישורים, ואינו מהווה רישיון לשימוש בתמונות המקוריות מהאתרים החיצוניים.
כמה רשומות יש במאגר ואיך הוא בנוי?
יש בו כ־143 מיליון צמדי תמונה וטקסט בסינית שנלקחו מתוך פרויקט LAION-2B. כל המידע מחולק על פני 13 קובצי Parquet שונים.
איך טוענים
הנתונים יושבים ב־13 קובצי Parquet ששוקלים יחד כ־19 גיגה-בייט של מידע טקסטואלי. אין צורך באישור גישה מיוחד כדי להוריד אותם, ואפשר למשוך ישירות את הקבצים בלולאת הורדה פשוטה. הקושי המרכזי כאן אינו הורדת הטבלאות, אלא העובדה שצריך לכתוב סקריפט שיוריד בפועל את 143 מיליון התמונות מכתובות ה־URL המופיעות בקבצים, תהליך שדורש רוחב פס גדול, נפח אחסון משמעותי לדיסקים וטיפול שוטף בקישורים שבורים.
from datasets import load_dataset
ds = load_dataset("IDEA-CCNL/laion2B-multi-chinese-subset")הרישיון
הרישיון המדווח במאגר הוא CC-BY-4.0, שמתיר שימוש מסחרי, שינוי והפצה של הנתונים, כל עוד מקפידים לתת קרדיט מתאים ליוצרים ומקשרים לתנאי הרישיון. עם זאת, הרישיון הזה מכסה רק את טבלאות המטא-דאטה והקישורים שהועלו, ולא מעניק זכויות קניין על התמונות עצמן, שנמצאות בבעלות האתרים שמהם הן נסרקו.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס