laion-face
קוד פתוחFacePerceiverרישיון לא דווח2022-06-21
מדובר בתת קבוצה מתוך LAION-400M שכוללת 50 מיליון זוגות של תמונות פנים וטקסט. המאגר נועד לאימון מודלי ראייה ממוחשבת ושפה על תווי פנים אנושיים.
- 1,362הורדות בחודש
- 31לייקים
מה זה
המאגר מכיל צמדים של תמונה וטקסט שנלקחו ישירות מתוך המאגר הרחב LAION-400M. כדי להרכיב אותו, החוקרים הפעילו מודל לזיהוי פנים על כלל התמונות וסיננו החוצה רק את אלו שמכילות פנים אנושיות, וכך הגיעו לגודל מלא של 50 מיליון דוגמאות.
הנתונים מחולקים לשני היקפים. יש את הסט המלא של 50 מיליון זוגות שנועד לאימון כבד, ויש תת קבוצה מצומצמת יותר של 20 מיליון זוגות שמיועדת להערכה מהירה של מודלים. במקור המאגר שימש כבסיס לאימון FaRL, מודל שמספק שלד לרשתות טרנספורמר לניתוח פנים.
מתאים ל
- אימון מודלי בסיס לפנים
אימון ארכיטקטורות ראייה ממוחשבת כמו FaRL לניתוח והבנה של פנים מתוך תמונות וטקסט.
- הערכת ביצועים מהירה
בדיקת מודלים על תת הקבוצה של 20 מיליון זוגות כדי לחסוך זמן ומשאבי חישוב.
- מחקר תמונה וטקסט
פיתוח מודלים מולטימודליים שמתמקדים בקשר שבין תיאור מילולי לתווי פנים.
איפה זה נופל
הכרטיס לא מפרט אילו שפות קיימות בטקסט, לא מציין את אופן ייצוג הגילאים או המוצא של המצולמים, ולא מתעד הטיות של מודל זיהוי הפנים שסינן את התמונות. בנוסף, התמונות יורדות מהרשת בזמן אמת דרך קישורים ישנים מתוך מאגר שנסרק בעבר, ולכן חלק ניכר מהקישורים עלול להיות שבור.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
לא מומלץ בכלל. המאגר פורסם ללא רישיון מוגדר, ואין שום מסמך שמתיר שימוש מסחרי בתמונות או במטא דאטה. אימון מודל מסחרי על נתונים כאלה עלול לחשוף אתכם לתביעות על זכויות יוצרים ופרטיות.
כמה שטח אחסון צריך כדי לעבוד איתו?
הורדת כל 50 מיליון התמונות דורשת בערך 2 טרה בייט של נפח פנוי בדיסק. אם בוחרים להוריד רק את גרסת ה־20 מיליון, תצטרכו להוריד 13 חלקים מתוך ה־32, מה שיחסוך חלק ניכר מהשטח ומזמן ההורדה.
האם המאגר זמין להורדה ישירה בלחיצת כפתור?
לא. המאגר בהאגינג פייס מכיל רק קובצי משקולות ומזהים, ולא את קובצי התמונה עצמם. צריך להריץ סקריפטים של פייתון ובאש שמורידים את המטא דאטה של LAION-400M ומושכים את התמונות ישירות מכתובות הרשת המקוריות שלהן.
האם יש במאגר תיאורים בעברית?
הכרטיס לא מציין אילו שפות קיימות בתיאורי התמונות. מאחר שמקור הנתונים הוא LAION-400M, הרוב המוחלט של הטקסטים הוא באנגלית, ואי אפשר להסתמך עליו לאימון מודלים שמיועדים לשפה העברית בלי לבדוק את התכנים מראש.
איך טוענים
המאגר בהאגינג פייס לא כולל את התמונות עצמן אלא קובצי מזהים כמו laion_face_ids.pth וקבצי זיהוי בפורמט pth. כדי להשתמש בו מורידים את המטא דאטה של LAION-400M, ממירים אותה בעזרת סקריפט ייעודי של הפרויקט, ואז מריצים כלי כמו img2dataset כדי להוריד את התמונות מהרשת. ההורדה המלאה דורשת כ־2 טרה בייט של שטח אחסון בדיסק, נמשכת ימים, ומחולקת ל־32 חלקים. אם רוצים רק את תת הקבוצה של 20 המיליון, מורידים רק 13 חלקים ספציפיים שהוגדרו מראש.
from datasets import load_dataset
ds = load_dataset("FacePerceiver/laion-face")הרישיון
היוצרים לא דיווחו על רישיון שימוש במאגר. מבחינה מעשית זה אומר שאין לכם שום הרשאה משפטית ברורה להשתמש בו לצרכים מסחריים, וגם שימוש מחקרי נמצא באזור אפור. אימון מודל על נתונים ללא רישיון מוצהר חושף אתכם לסיכון משפטי, במיוחד כשמדובר בתמונות פנים שנאספו מהרשת.