ideogram-75k
קוד פתוחterminusresearchagpl-3.02024-07-12
המאגר מרכז תמונות שנוצרו בפלטפורמת Ideogram ומתמקד בטיפוגרפיה. מי שיוריד אותו מחפש בעיקר דוגמאות אימון למודלי תמונה שמתקשים לייצר אותיות וטקסט מדויק.
- 1,031הורדות בחודש
- 18לייקים
מה זה
הנתונים כוללים כ־75,000 תמונות סינתטיות שנאספו ישירות מהשירות של Ideogram, ללא אישור או מעורבות של החברה עצמה. המאגר כולל גם את כל מה שפורסם בעבר בחבילת ה־25k שלהם, כך שאין טעם להוריד את שתיהן במקביל. שמות הקבצים הם גיבוב SHA256 של תוכן התמונה לצורך מניעת כפילויות ואימות הקבצים.
לכל תמונה הוצמד תיאור טקסטואלי שמנסה לשקף את מה שרואים בה. הכרטיס מציג סתירה לגבי אופן יצירת התיאורים, כאשר במקום אחד מצוין שימוש בגרסה מכווננת של Microsoft Florence2, ובמקום אחר מוזכר מודל Llava 34B. האיסוף עצמו בוצע באמצעות סקריפט סלניום בפייתון שניטר פוסטים ציבוריים ושמר אותם בזמן אמת.
מתאים ל
- אימון מודלי תמונה לטקסט
כוונון מודלי יצירת תמונה כדי לשפר את היכולת שלהם לרנדר אותיות ומילים קריאות באנגלית.
- אימון מסווגים
בניית מסווגים שמזהים אלמנטים טיפוגרפיים או מאפיינים גרפיים בתוך תמונות.
- מחקר הטיות משתמשים
ניתוח העדפות הוויזואליות והסגנוניות של משתמשי שירותי יצירת תמונות.
איפה זה נופל
יש כאן שתי בעיות מהותיות שצריך לקחת בחשבון. הראשונה היא שהתיאורים נוצרו כולם על ידי מודל ראייה ממוחשבת, Florence2 או Llava 34B לפי התיעוד הסותר, ולכן כל ההטיות והטעויות של מודל המקור נכנסו לתוך הטקסט. הבעיה השנייה היא היעדר מידע על שפות. המאגר נשען על מה שמשתמשי אידאוגרם יצרו, וכנראה מדובר ברובו המוחלט באנגלית. אם אתם בונים על טיפוגרפיה בעברית, אין שום ערובה שיש כאן אות אחת כזו.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי סגור?
לא. המאגר מופץ תחת רישיון AGPL-3.0, והיוצרים דורשים שכל מודל שאומן עליו ישוחרר לציבור ברישיון פתוח או copyleft. אם המודל שלכם מיועד להיות קוד סגור, הדאטהסט הזה לא מתאים לכם.
האם יש במאגר תמונות עם טקסט בעברית?
הכרטיס לא מציין תמיכה בשפות שאינן אנגלית או חלוקה לשפות. מאחר שהנתונים נאספו ממשתמשי אידאוגרם כלליים, רוב מוחלט של הטקסט בתמונות הוא באנגלית ואין להסתמך עליו לאימון על עברית.
איך נאספו התמונות והאם יש עליהן זכויות יוצרים?
התמונות נקצרו ישירות מהשירות של Ideogram באמצעות סקריפט אוטומטי של סלניום, ללא אישור מהחברה. היוצרים טוענים שבגלל שמדובר בתוכן סינתטי שנוצר בבינה מלאכותית אין עליו זכויות יוצרים, אבל כדאי לזכור שהקציר נעשה ללא תיאום עם הפלטפורמה.
מה ההבדל בין המאגר הזה לגרסת ה־25k?
המאגר הזה מכיל בתוכו את כל התוכן של ideogram-25k בתוספת נתונים חדשים, עד לסך של כ־75,000 רשומות. היוצרים מציינים במפורש שאין צורך להוריד את שני המאגרים יחד כי מדובר בכפילות.
איך טוענים
המאגר מחולק לקובצי ארכיון מרובים בפורמט tar, עם 53 קבצים בסך הכל שכוללים את התמונות והתיאורים. אין צורך לבקש אישור גישה מיוחד כדי להוריד אותו מהאגב, אבל צריך לפרוק את הארכיונים ולחלץ את שדה ה־caption מול קובצי התמונה שנקראים על שם ה־hash שלהם. הנפח המדויק בגיגה-בייטים לא מפורט בכרטיס, אך מדובר בעשרות קובצי tar שמכילים עשרות אלפי תמונות, כך שצריך להיערך לשטח אחסון מתאים.
from datasets import load_dataset
ds = load_dataset("terminusresearch/ideogram-75k")הרישיון
הרישיון המדווח הוא AGPL-3.0, וזה רישיון מדבק וקשוח במיוחד. היוצרים מצהירים מפורשות שכל מודל שיאומן על המאגר נחשב יצירה נגזרת, ולכן חייב להשתחרר בקוד פתוח תחת רישיון פתוח או רישיון copyleft דומה. שימוש מסחרי במודל סגור על בסיס הנתונים האלה פשוט בלתי אפשרי לפי תנאי המפיץ, ובנוסף קיימת חובת ייחוס ליוצרים.