alchemist

מה זה

המאגר כולל פיצול אימון יחיד עם 3,350 דוגמאות שנבחרו מתוך מאגר מקורי עצום של עשרה מיליארד תמונות רשת. הסינון התבצע בכמה שלבים, כאשר תחילה הוציאו תוכן לא בטוח, תמונות ברזולוציה נמוכה ממגה פיקסל אחד, טשטוש, סימני מים וכפילויות בעזרת מודל איכות תמונה ייעודי, עד שנותרו 300 מיליון תמונות.

בשלב הבא החוקרים הפעילו מודל דיפוזיה כדי לדרג אסתטיקה ומורכבות לפי ניתוח שכבות תשומת לב, ובחרו רק את התמונות המובילות. הטקסטים המצורפים אינם התיאורים המקוריים מהרשת אלא שוכתבו סינתטית כדי להיראות כמו פרומפטים קצרים וטבעיים של משתמשים, ולא כמו תיאורים טכניים עמוסים בפרטים.

מתאים ל

• כוונון עדין למודלי דיפוזיה

  שיפור מהיר של איכות התוצרים והאסתטיקה במודלים ממשפחת סטייבל דיפיוז'ן באמצעות מספר דוגמאות מצומצם.

• מחקר על פרומפטים סינתטיים

  בדיקת השפעתם של תיאורי משתמש קצרים לעומת תיאורים ארוכים ומפורטים על התנהגות מודל יוצר תמונות.

• אימון משלים לרזולוציה גבוהה

  שילוב תמונות נקיות מסימני מים ומטשטוש בשלב האחרון של האימון כדי לחדד פרטים ויזואליים.

איפה זה נופל

הסיכון הגדול ביותר כאן הוא שבירת קישורים, שכן הנתונים מכילים רק כתובות רשת ולא את התמונות עצמן, כך שחלקן עשוי להיעלם מהאינטרנט עם הזמן. בנוסף, המאגר עבר סינון סינתטי מסיבי שמתאים לכוונון אסתטי ממוקד, אך הוא קטן מדי לאימון מודל מאפס ולא ידוע אם הוא מכיל פרומפטים בשפות שאינן אנגלית.

איך טוענים

טוענים את המאגר ישירות בספריית datasets של Hugging Face ללא צורך בהרשאת גישה מיוחדת, דרך קובץ Parquet בודד או קובץ CSV. המאגר עצמו אינו מחזיק את קובצי התמונה בפועל אלא מכיל רק מזהה, קישור להורדת התמונה מהרשת ואת הפרומפט המשוכתב. המשמעות היא שחובה להריץ סקריפט הורדה עצמאי כדי למשוך את התמונות למחשב המקומי לפני תחילת האימון.

from datasets import load_dataset

ds = load_dataset("yandex/alchemist")

הרישיון

המאגר מופץ ברישיון Apache 2.0 שמתיר שימוש מסחרי, מחקר, שינוי והפצה ללא חובת פתיחת הקוד שלכם, תחת מתן קרדיט בלבד. אם תאמנו עליו מודל, הרישיון חל על הדאטהסט עצמו ולא כובל את משקולות המודל הסופי, אך כדאי לוודא שהשימוש בתמונות שמורדות מהרשת עומד בזכויות היוצרים המקוריות שלהן.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗