niji-v5
קוד פתוחp1atdevcc0-1.02023-04-23
אוסף תמונות אנימה שנוצרו במחולל ניג'יג'ורני גרסה חמש ומחולקות לקבצי ארכיון לפי סגנונות ואיכות. המאגר מיועד למי שרוצה לאמן מודלים על סגנון האיור היפני של הכלי בלי לייצר את הדאטה לבד.
- 76הורדות בחודש
- 31לייקים
מה זה
המאגר מכיל תמונות סינתטיות שנוצרו כולן על ידי היוצר באמצעות nijijourney v5. הנתונים מחולקים לארבעה כרכים שנארזו בקבצי זיפ. הכרך הראשון כולל כאלפיים תמונות בסגנון ברירת המחדל שמוינו לפי ציוני אסתטיקה של מודל לייאון, וצורפו להן תיאורי טקסט שנוצרו אוטומטית באמצעות מודלים כמו בליפ שתיים ומתייגים שונים. בתוך הכרך הזה יש תיקיות של תמונות שנבחרו ידנית ותיקייה של תמונות מוזרות שהוחרגו.
הכרך השני מכיל כאלף ומאתיים תמונות בסגנונות שונים של המחולל כמו חמוד, אקספרסיבי, נופי, נקי וציור גס. הכרך השלישי כולל כארבע מאות וחמישים תמונות שחולקו ידנית לקטגוריות של רקעים, קומיקס בשחור לבן, ציור דיו וסצנות נוף. הכרך הרביעי קטן מאוד ומונה נכון לעכשיו ארבעים ושמונה תמונות בלבד בסגנון מינימליסטי.
מתאים ל
- אימון לורה לסגנון אנימה
אימון מתאמי סגנון לדיפוזיה על בסיס התמונות הממוינות בכרך השני.
- אימון מודל מתייג אנימה
שימוש בתמונות המגוונות לבניית מאגר הערכה למתייגי תמונות איור.
- מחקר על ציוני אסתטיקה
בדיקת ההתאמה בין ציוני מודל לייאון לבין העדפות משתמש לפי החלוקה בכרך הראשון.
איפה זה נופל
זהו אוסף חובבני לחלוטין ויש בו טעויות רבות. היוצר עצמו מעיד שחלק מהתמונות נשארו מחוברות ברשת של ארבע או נחתכו בצורה מוגזמת עקב שגיאות ידניות. הכרכים השלישי והרביעי נטולי תיאורים לגמרי, ובכרך הראשון התיאורים האוטומטיים עברו שינויים מוזרים והיוצר ממליץ לתייג מחדש. בנוסף יש כפילויות של תמונות בין תיקיות שונות וטעויות במיון הסגנונות. אי אפשר לזרוק את זה ישר לתוך אימון בלי לעבור תמונה אחרי תמונה, לנקות חיתוכים פגומים ולייצר תיוג עקבי.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט הזה לפרויקט מסחרי?
כן, הרישיון המוגדר הוא נחלת הכלל ואינו דורש ייחוס או הגבלת שימוש. מודלים שתאמנו על הנתונים אינם כפופים לחובת שיתוף חופשי. עם זאת כדאי לזכור שמדובר בפלטים של מחולל תמונות חיצוני ואין ערובה לגבי זכויות היוצרים על חומרי המקור שעליהם הוא אומן.
איך מחולקות התמונות בקבצים?
הנתונים לא מגיעים בקובץ אחד אלא בארבעה כרכים עיקריים שחולקו לזיפים לפי סגנונות ואיכות. חלק מהקבצים מכילים תמונות בלבד ללא שום טקסט נלווה. הכרך הראשון כולל חלוקה לפי ציון אסתטיקה וקובצי טקסט נפרדים.
האם יש בדאטהסט תיוגים בעברית?
אין שום מידע בעברית במאגר הזה. התיאורים הקיימים בכרך הראשון נוצרו על ידי מודלים אוטומטיים באנגלית. כרטיס הדאטהסט וההסברים של היוצר נכתבו ביפנית בלבד.
האם התמונות מוכנות מיד לאימון מודל?
ממש לא, וצריך לעשות עבודת הכנה ידנית רבה לפני שמתחילים. חלק מהתמונות מכילות פגמים בחיתוך של רשתות התמונות המקוריות וחלקן סווגו בתיקיות הלא נכונות. בנוסף, רוב הכרכים מגיעים ללא תיאורי טקסט כלל ודורשים תיוג מחדש.
איך טוענים
אין כאן מבנה נתונים מסודר של פאראקט או טבלאות, אלא שמונה עשר קבצים שכוללים בעיקר ארכיוני זיפ של תמונות וקובץ מידע. מורידים את קבצי הזיפ ישירות מהמאגר ופותחים אותם מקומית. אין צורך בבקשת אישור גישה מיוחדת. התיאורים בחלק הראשון שמורים בקבצי טקסט צמודים לתמונות, אבל בשאר הכרכים אין קבצי תיאור בכלל וצריך לייצר אותם עצמאית כדי לאמן מודל טקסט לתמונה.
from datasets import load_dataset
ds = load_dataset("p1atdev/niji-v5")הרישיון
המאגר פורסם תחת רישיון נחלת הכלל הבינלאומי. מותר להשתמש בתמונות לכל מטרה, כולל שימוש מסחרי, שינוי של הקבצים ואימון מודלים מסחריים בלי חובת ייחוס ליוצר או דרישה לשתף את התוצרים ברישיון דומה. היוצר ביקש בטקסט לא להשתמש בחומרים למטרות תרמית או פשע, אך מבחינה משפטית הרישיון פתוח לחלוטין.