חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
A

AuraFlow-with-Captioner

רץ בדפדפן

gokaygokaymit2024-07-12

  • gradio

הכלי מחבר מודל ראייה ממוחשבת יחד עם מחולל התמונות AuraFlow-v0.3. אתם מעלים תמונה כדי לחלץ ממנה תיאור טקסטואלי מפורט, ויוצרים ממנו תמונה חדשה לגמרי.

  • —הורדות בחודש
  • 90לייקים

מה זה

אתם מעלים תמונת מקור או מקלידים תיאור ידני באפשרויות המתקדמות. אם בחרתם בתמונה, מודל ראייה מנתח אותה ומייצר תיאור טקסטואלי מלא. הממשק מציע שתי אפשרויות לחילוץ התיאור: Florence-2 של מיקרוסופט או מודל מבוסס PaliGemma בשם sd3-long-captioner-v2.

אחרי יצירת התיאור, אפשר להעביר אותו דרך מודל הרחבה ייעודי של Lamini שמוסיף פרטים לבקשה, לפני שהיא מגיעה למחולל התמונות AuraFlow-v0.3. בסוף התהליך מקבלים תמונה ברזולוציה שנקבעה, לצד תיבת טקסט שמציגה בדיוק את הפרומפט הסופי שהופק ואת מספר הסיד ששימש ליצירה.

מתאים ל

  • שחזור סגנון מתמונה קיימת

    מעלים תמונה שרוצים לחקות, מחלצים תיאור עשיר ומייצרים גרסה חדשה בלי להעתיק פיקסלים.

  • בדיקת AuraFlow v0.3

    התנסות במחולל הפתוח של fal עם שליטה בצעדי הריצה, גודל התמונה וערכי ה־Guidance ישירות מהדפדפן.

  • בניית פרומפטים מורכבים

    שימוש במודלי הראייה וההרחבה כדי לראות איך מודל שפה מפרק תמונה לטקסט לצורך יצירה עתידית.

איפה זה נופל

התהליך אינו Image-to-Image רגיל ששומר על המבנה המדויק של התמונה המקורית. מודל הראייה מתרגם את מה שהוא רואה למילים, ומודל התמונה יוצר משהו חדש לחלוטין לפי התיאור הזה, כך שקומפוזיציה מדויקת או פרטים קטנים ילכו לאיבוד. בנוסף, שרשור של מודל ראייה, מודל שפה להרחבה ומחולל תמונות יוצר תלות כפולה, ואם התיאור הראשוני מפספס את העיקר, התמונה שתצא תהיה רחוקה מהמקור.

שאלות
נפוצות

האם השימוש באפליקציה עולה כסף?

לא, הממשק פתוח ורץ ללא תשלום על גבי תשתית משותפת. אין צורך להזין פרטי אשראי כדי לנסות אותו.

מה קורה לתמונות שאני מעלה לכלי?

התמונות נשלחות לזיכרון השרת לצורך ניתוח במודל הראייה ויצירת התיאור. הממשק אינו כולל גלריה ציבורית שנשמרת באתר, אך התוכן מעובד על שרתים מרוחקים.

כמה זמן לוקח לייצר תמונה בודדת?

הזמן משתנה בהתאם לעומס על השרת ולבחירת השלבים. שילוב של מודל ראייה, הרחבת טקסט והרצת 28 צעדים של AuraFlow על גבי A10G לוקח בדרך כלל בין חצי דקה לדקה.

במה הכלי הזה שונה מהרצת AuraFlow רגילה?

הכלי מחבר מראש צינור עבודה שלם. במקום להזין טקסט בלבד, הוא משתמש ב־Florence-2 או PaliGemma לחילוץ אוטומטי של תיאור מתמונה, מוסיף אפשרות לשכתוב התיאור במודל שפה, ורק אז מייצר את התוצאה.

איך משתמשים

גולשים לעמוד, גוררים תמונה או פותחים את ההגדרות המתקדמות כדי להקליד טקסט ישיר, ולוחצים על Generate Image. אין חובת הרשמה כדי להשתמש בממשק. הריצה מתבצעת על מעבד גרפי מסוג Zero-A10G, כך שהמערכת מקצה משאבים לפי דרישה. יצירת תמונה בברירת המחדל של 28 צעדים וברזולוציית 1024 על 1024 עשויה לקחת כמה עשרות שניות, במיוחד כשמשלבים פענוח תמונה והרחבת טקסט באותה ריצה.

הרישיון

הקוד והממשק מפורסמים תחת רישיון MIT, שמאפשר שימוש חופשי כולל שימוש מסחרי, שינוי והפצה. התמונות שנוצרות והקבצים שמעלים כפופים לתנאי השימוש הרגילים של השרתים המארחים ושל המודלים עצמם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗