חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
I

image2mesh

רץ בדפדפן

mattiagattiרישיון לא דווח2022-10-24

  • gradio

מעלים תמונה רגילה ומקבלים מפת עומק ומודל תלת ממדי שאפשר לסובב. זה מיועד למי שרוצה לבדוק יצירת רשת גאומטרית מתמונה בודדת בלי להתקין ספריות מקומיות.

  • —הורדות בחודש
  • 51לייקים

מה זה

התהליך פשוט. אתם מעלים תמונה ובוחרים רמת איכות לרשת בסליידר שנע בין 1 ל־5, כשהברירת מחדל היא 3. בתגובה הממשק מחזיר שני פלטים: תמונה של מפת העומק ותצוגה אינטראקטיבית של המודל התלת ממדי.

מאחורי הקלעים רץ המודל vinvino02/glpn-nyu שמבצע הערכת עומק, וספריית open3d שבונה את הרשת הגאומטרית מתוך הנתונים האלה לפי מדריך שפורסם ב־Towards Data Science. בממשק יש גם תיקיית דוגמאות מובנית, כך שאפשר לנסות תמונות קיימות בלי להעלות קובץ משלכם.

מתאים ל

  • הערכת עומק מתמונות פנים

    בדיקה מהירה של מפת עומק לחדרים וחללים סגורים בעזרת מודל GLPN.

  • המרת תמונה לרשת תלת ממדית

    יצירת קובץ רשת בסיסי שאפשר לצפות בו ולסובב ישירות בחלון הדפדפן.

  • התנסות בספריית open3d

    בחינת השילוב בין מודל חיזוי עומק לבין בניית גאומטריה בקוד פייתון.

איפה זה נופל

כרגע האפליקציה במצב של שגיאת ריצה (RUNTIME_ERROR), כך שהיא פשוט לא תעבוד בדפדפן עד שיתקנו את הקוד או את התלויות. מעבר לזה, המודל אומן על מאגר NYU שמיועד לסביבות פנים, ולכן הוא לא מתאים לתמונות חוץ מורכבות. בנוסף, אל תצפו למודל תלת ממדי מלא מכל הכיוונים, מדובר בהבלטה של התמונה על בסיס מפת עומק מחזית אחת בלבד.

שאלות
נפוצות

האם האפליקציה עובדת כרגע?

לא. היא מוגדרת במצב RUNTIME_ERROR, מה שאומר שהיא קורסת בעלייה. כדי להשתמש בה תצטרכו להוריד את הקוד ולהריץ אותו אצלכם.

האם השימוש עולה כסף?

לא, הממשק פתוח לגישה חופשית ולא דורש תשלום. גם הקוד עצמו זמין להורדה מתוך המאגר.

האם אפשר להריץ את זה במחשב האישי?

כן, הקוד דורש פייתון 3.11 והתקנת התלויות מקובץ requirements.txt. הפקודה להרצה מקומית היא python3.11 app.py.

במה זה שונה משימוש ישיר במודל GLPN?

המודל המקורי רק מייצר תמונת עומק בשחור ולבן. כאן הקוד לוקח את המפה הזאת והופך אותה לרשת תלת ממדית אמיתית בעזרת open3d.

איך משתמשים

הממשק בנוי ב־Gradio ורץ על חומרת מעבד בסיסית, cpu-basic. העבודה היא בלחיצה אחת אחרי בחירת התמונה ואיכות הרשת. הדוגמאות לא נשמרות במטמון לפי ההגדרות בקוד, כך שכל בקשה מחושבת במקום. בגלל שמדובר במעבד רגיל ולא במאיץ גרפי, יצירת המודל יכולה לקחת זמן, במיוחד באיכות גבוהה.

הרישיון

הרישיון לא דווח במאגר. המשמעות היא שאין הרשאה ברורה לשימוש מסחרי בקוד או בתוצרים, ואי אפשר לדעת מה המדיניות לגבי שמירת התמונות שאתם מעלים לשרת.

הרישיון המלא ב־Hugging Face ↗