GPT
4

4M

רץ בדפדפן

EPFL-VILABapache-2.02024-06-20

  • gradio

הכלי מנתח תמונת RGB בודדת ומפיק ממנה מגוון מודליות שונות במקביל. הוא מיועד לחוקרים ולמפתחים שרוצים לבחון יכולות ראייה ממוחשבת מרובות משימות.

  • הורדות בחודש
  • 203לייקים

מה זה

אתם מעלים תמונת צבע רגילה ומקבלים גלריית תוצאות שמציגה ניבויים שונים שנגזרים ממנה. המערך מבוסס על המודל 4M-21_XL של EPFL-VILAB, שמשתמש בארכיטקטורת Massively Multimodal Masked Modeling כדי לחבר בין ייצוגים שונים של אותו קלט חזותי.

הממשק כולל שש תמונות מובנות מראש להרצה מהירה, ומאפשר לבחור אילו מודליות יעד תרצו שהמודל יחשב. מתחת למכסה המנוע הקוד טוען סמפלר ייעודי של 4M ומשתמש בחיתוך מרכזי של הקלט כדי להתאים אותו לדרישות העיבוד.

בנוסף לבחירת המודליות, אפשר לשלוט על פרמטרי הדגימה כמו Top-p שמוגדר כברירת מחדל על 0.8, Top-k שמתחיל באפס, ומספר סיד קבוע או אקראי. כל התוצאות מוחזרות בתצוגת גלריה אחת שמרכזת את כל הפלטים החזותיים שנוצרו.

מתאים ל

  • חילוץ מודליות מתמונה

    הפקת נתונים חזותיים נלווים מתוך תמונת צבע יחידה בבדיקה מהירה בדפדפן.

  • בדיקת איכות של 4M

    בחינת הביצועים של מודל ה־XL על דוגמאות מובנות או קבצים עצמאיים לפני הטמעה.

  • השוואת פרמטרי דגימה

    משחק עם ערכי Top-p וסיד שונים כדי לראות איך הם משפיעים על יציבות הניבויים.

איפה זה נופל

ההדגמה הזו מוגבלת לקלט של תמונת RGB בלבד, למרות שהמודל המקורי בנוי לעבודה רב כיוונית מכל מודליות לכל מודליות. בנוסף, הקוד מבצע חיתוך מרכזי לתמונה לפני העיבוד, מה שעלול להשמיט פרטים חשובים שנמצאים בשוליים. אם תרצו להזין נתונים אחרים כמו עומק או טקסט כקלט ראשוני, לא תוכלו לעשות את זה כאן ותצטרכו לעבור למחברת הקוד הרשמית של הפרויקט.

שאלות
נפוצות

האם השימוש בהדגמה עולה כסף?

לא, הגישה להדגמה בדפדפן חופשית לגמרי. היא רצה על תשתית שיתופית ואינה דורשת תשלום או מנוי מיוחד. אם השרת ישן, ייתכן שתצטרכו רק להמתין לעלייה שלו.

כמה זמן לוקח לראות תוצאה?

אם השרת פעיל וכרטיס המסך A10G זמין, הניבוי עצמו מסתיים תוך שניות בודדות. אם העמוד היה במצב שינה, תידרש המתנה נוספת של דקה או שתיים להתנעת החומרה וטעינת המשקלים. במקרים של עומס על התשתית ייתכן עיכוב קצר נוסף.

האם אפשר להריץ את זה מקומית?

כן, הקוד והמודל זמינים ברישיון קוד פתוח. המפתחים מפנים למאגר הגיטהאב של אפל ולמחברת אינטראקטיבית שמאפשרת להריץ את מודל 4M-21 ישירות על חומרה משלכם. תצטרכו כרטיס מסך מתאים עם מספיק זיכרון להרצת גרסת ה־XL.

במה הדמו הזה שונה מהיכולות המלאות של המודל?

היישום כאן מציע ממשק מוגבל שמקבל רק תמונות RGB ומייצר מהן מודליות אחרות. המודל עצמו תומך ביצירה רב-כיוונית שמאפשרת להזין שילובים שונים של מידע ולקבל השלמות בהתאם. למימוש המלא של תרחישי any-to-any צריך להשתמש בקוד המקורי ולא בממשק הגרפי הזה.

איך משתמשים

טוענים תמונה מהמחשב או בוחרים באחת משש הדוגמאות המוכנות, ולוחצים על כפתור החיזוי שמפעיל את 4M-21 XL. אם רוצים לדייק את הפלט, פותחים את תפריט ההגדרות המתקדמות ומשנים את ערכי הסיד, Top-p או המודליות המבוקשות. העמוד יושב על חומרת zero-a10g של האגינג פייס ונמצא במצב שינה כברירת מחדל, כך שבהפעלה הראשונה צריך להמתין כמה שניות או דקות עד שהשרת מתעורר וטוען את המודל לזיכרון. אין צורך בחשבון בתשלום כדי להריץ את ההדגמה.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי בקוד כולל שינויים והפצה מסחרית בכפוף לתנאי הרישיון. התמונות שאתם מעלים והפלטים שנוצרים מעובדים דרך התשתית של האגינג פייס לפי תנאי השימוש של האתר.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗