חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
F

Florence-2-SD3-Captioner — הדגמה

קוד פתוח

gokaygokayapache-2.02024-06-24

  • gradio

הכלי מייצר תיאורי תמונה מילוליים שמנוסחים במיוחד עבור מודל התמונות Stable Diffusion 3. הוא מיועד למי שרוצה להפיק פרומפטים מדויקים מתמונות קיימות בלי להסתבך עם קוד.

  • 271Mפרמטרים
  • 1,024טוקנים בהקשר
  • 1.0 GBמשקל הקבצים
  • —הורדות בחודש

מה זה

אתם מעלים תמונה ומקבלים תיאור טקסטואלי מפורט באנגלית, שנועד לשמש כהנחיה ליצירת תמונה דומה. הממשק כולל שדה פשוט להעלאת קובץ ותיבת פלט אחת שמציגה את התוצאה הסופית, בלי הגדרות מסובכות מסביב.

מאחורי הקלעים רץ שילוב של מודל הבסיס Florence-2 של מיקרוסופט עם גרסה מכווננת של היוצר, שנקראת באותו השם. המערך הזה תוכנן לקרוא אלמנטים חזותיים ולתרגם אותם לסגנון הניסוח ש־SD3 מגיב אליו בצורה הטובה ביותר.

בעמוד עצמו שולבו תמונות לדוגמה תחת הכותרת Try captioning on below examples, כך שאפשר לבדוק את אופי התיאורים מיד בלי לחפש קובץ משלכם.

מתאים ל

  • הינדוס לאחור של תמונות

    אתם מעלים תמונה שמצאה חן בעיניכם ומקבלים פרומפט שמשחזר את הסגנון והקומפוזיציה שלה.

  • אימון מודלים ותיוג

    יצירת כתוביות מפורטות לקובצי תמונות עבור סט נתונים שמיועד לכוונון של מודלי יצירה.

  • השראה לכתיבת פרומפטים

    בדיקה של אופן הניסוח המדויק שמתאים למודלי תמונה חדשים כדי לשפר את הכתיבה הידנית שלכם.

איפה זה נופל

הכלי מפיק טקסט בלבד ולא מייצר תמונות חדשות, כך שעדיין תצטרכו להעביר את הפרומפט למודל יצירה בנפרד. אין כאן אפשרות לבחור את סגנון התיאור, לקבוע את אורכו או לבקש ניתוח בשפה שאינה אנגלית. אם תעלו תמונה מורכבת במיוחד עם הרבה פרטים זעירים, הפירוט עלול לפספס חלק מהאלמנטים.

שאלות
נפוצות

האם השימוש באפליקציה עולה כסף?

לא, הכלי פתוח לשימוש חופשי בדפדפן ללא תשלום. אין צורך להזין אמצעי תשלום ואין הגבלת כמות גלויה בממשק עצמו.

כמה זמן לוקח לכל תמונה להתעבד?

העיבוד עשוי לקחת כמה שניות טובות בגלל הרצה על מעבד פשוט. אם כמה אנשים מנסים לעבוד בו זמנית, אתם עלולים להמתין מעט יותר עד לקבלת הטקסט.

האם אפשר להריץ את הכלי הזה במחשב המקומי?

כן, הקוד משתמש בספריית transformers וזמין להורדה מלאה. אפשר למשוך את המודל ישירות מהמאגר ולהפעיל אותו בסביבת פייתון מקומית עם מעבד או כרטיס מסך.

האם הממשק שומר את התמונות שמעלים אליו?

הקוד לא כולל מנגנון מובנה לשמירת קבצים במאגר נתונים חיצוני, אך המידע עובר דרך שרתי הרשת שעליהם יושב הממשק. לא כדאי להעלות לשם תמונות פרטיות או רגישות.

איך מריצים

גוררים תמונה לתיבת הקלט ולוחצים על Submit. התוצאה מופיעה בתיבת הטקסט לצד התמונה, ואפשר להעתיק אותה מיד לשימוש במחולל תמונות.

האפליקציה רצה על חומרת מעבד בסיסית, כך שזמן העיבוד ארוך יותר מאשר בהרצה על כרטיס גרפי ייעודי. אין צורך לפתוח חשבון או להתחבר כדי להשתמש בממשק, אבל אם יש עומס משתמשים במקביל, הפעולה עלולה להתעכב.

pip install -U huggingface_hub
hf download gokaygokay/Florence-2-SD3-Captioner

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי כולל שימוש מסחרי והתאמה של הקוד. המידע על אופן שמירת התמונות שהעליתם בשרתי האחסון של השירות אינו מצוין בקוד האפליקציה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗