laion-coco-aesthetic

מה זה

המאגר הזה לוקח מדגם של עשרה אחוזים מתוך LAION-COCO ומעביר אותו סדרה של חיתוכים טכניים. המטרה כאן היא להיפטר מזבל ברשת, ולכן הוסרו מחרוזות טקסט שהכילו כתובות אתרים או תווים מיוחדים. בצד הוויזואלי נשארו רק תמונות שגדולות מ־384 על 384 פיקסלים, כך שאין כאן תמונות ממוזערות או קבצים מטושטשים במיוחד.

בסך הכל יש כאן 8,563,753 רשומות שמגיעות עם מטא-דאטה מוכן מראש. כל שורה מכילה לא רק את הקישור או הטקסט, אלא גם ציון אסתטיקה וציון סימן מים. הסינון השאיר רק פריטים שקיבלו ציון אסתטי של מעל 4.75 במודל של christophschuhmann, והסתברות של פחות מחצי לקיומו של סימן מים לפי הגלאי של LAION-5B.

מתאים ל

• אימון מודלי יצירת תמונה

  אימון מודלי דיפוזיה על תמונות מסוננות מראש עם ציוני איכות גבוהים.

• כיוונון מודלי תיאור תמונה

  שיפור מודלי ראייה שמייצרים כתוביות על בסיס טקסטים שעברו ניקוי.

• סינון לפי סימני מים

  שימוש בעמודת ההסתברות כדי לחתוך החוצה תמונות ממותגות לפני האימון.

איפה זה נופל

הטקסט כולו באנגלית בלבד, כך שאי אפשר להשתמש בו ישירות למודלים בעברית בלי תרגום מלא. הסינון מבוסס על ציונים אוטומטיים ממודלים חיצוניים, וזה אומר שהטיות המודל שקבע מה אסתטי נכנסו ישירות פנימה. בנוסף, רף של חצי בהסתברות לסימן מים עדיין משאיר סיכוי שתמונות עם לוגואים יזלגו לאימון.

איך טוענים

אתם ניגשים לקובץ laion-coco_v3_filter.parquet שיושב במאגר הפתוח, בלי צורך לבקש אישור גישה מראש. הקובץ מכיל את כל השדות החשובים: הטקסט המנוקה, הציון האסתטי, וההסתברות לקיום סימן מים. שימו לב שהתמונות עצמן לא בהכרח יושבות בתוך המאגר אלא דורשות הורדה לפי הקישורים, ולכן תצטרכו לנהל את משיכת הקבצים בעצמכם.

from datasets import load_dataset

ds = load_dataset("guangyil/laion-coco-aesthetic")

הרישיון

הרישיון המדווח הוא apache-2.0, וזה אומר שמותר להשתמש בנתונים למטרות מסחריות ומחקריות, לשנות אותם ולהפיץ מודלים שאומנו עליהם. הדרישה העיקרית היא מתן קרדיט ושמירה על תנאי הרישיון המקוריים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗