חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
M

MeshAnythingV2

רץ בדפדפן

Yiwen-ntumit2024-08-05

  • gradio

מעלים מודל תלת ממדי ומקבלים רשת פוליגונים נקייה יותר. מתאים למי שרוצה לעבד קבצי תלת ממד קיימים בלי לגעת בתוכנות מידול ידניות.

  • —הורדות בחודש
  • 68לייקים

מה זה

אתם מעלים קובץ תלת ממדי בממשק, והוא מייצר רשת חדשה בתצוגת OBJ יחד עם תמונות רנדר להשוואה בין המקור לתוצאה. הממשק מאפשר גם לבצע עיבוד מקדים באמצעות Marching Cubes כדי לנקות את הגיאומטריה הבסיסית לפני תחילת העבודה.

מאחורי הקלעים הקוד ממיר את המודל לענן נקודות ומריץ שילוב של מודלים. הוא משתמש ב־MeshAnythingV2 לצד רכיבי שפה וראייה ממוחשבת כמו CLIP של OpenAI, מודל OPT של פייסבוק ו־BERT, כדי להבין את מבנה העצם ולבנות אותו מחדש.

יש בממשק גלריית דוגמאות מובנית מתיקייה מקומית, אבל הדוגמאות לא נשמרות במטמון וצריך לטעון אותן בכל פעם מחדש.

מתאים ל

  • בנייה מחדש של רשתות

    מעבירים מודלים קיימים עיבוד מקדים כדי לייצר מבנה פוליגונים מסודר יותר.

  • בדיקת מבנה גיאומטרי

    ממירים מודל תלת ממדי לענן נקודות כדי לנתח את הנפח והצורה שלו.

  • השוואת רנדרים

    בוחנים תמונות רנדר של קובץ המקור מול התוצאה המעובדת כדי לאתר פגמים.

איפה זה נופל

כרגע היישום מוגדר במצב מושהה ולא ניתן להריץ אותו ישירות בדפדפן עד שיפעילו אותו מחדש. בנוסף, הוא מתמקד בעיבוד מחדש של צורות ורשתות קיימות, כך שאי אפשר לייצר בו יש מאין מודל חדש על בסיס טקסט בלבד.

שאלות
נפוצות

האם אפשר להשתמש באפליקציה כרגע בדפדפן?

לא, כרגע המצב של היישום מוגדר כמושהה. כדי להשתמש בו צריך לחכות שבעלי הפרויקט יפעילו אותו מחדש, או לשכפל את הקוד ולהריץ בעצמכם. ברגע שהוא פועל, השימוש בו לא דורש תשלום.

אפשר להריץ את הכלי הזה במחשב מקומי?

כן, הקוד פתוח תחת רישיון MIT וניתן להורדה. תצטרכו סביבת פייתון מתאימה, כרטיס מסך שמסוגל להתמודד עם המודלים, והתקנה של הספריות trimesh ו־accelerate. החומרה שהוגדרה להרצה המקורית היא ברמת A10G, כך שדרוש כרטיס חזק.

מה עושים אם התוצאה של המודל לא נראית טוב?

הממשק מציע שתי אפשרויות לשיפור במקרה כזה. אפשר לסמן את האפשרות לעיבוד מקדים עם Marching Cubes כדי לטפל במבנה הבסיסי. בנוסף, אפשר להפעיל Random Sampling ולשנות את ערך ה־Seed כדי לקבל תוצאה גיאומטרית שונה לחלוטין.

האם צריך להירשם או להתחבר כדי לייצר מודלים?

אין דרישת התחברות ייעודית בתוך הממשק עצמו, והוא בנוי כעמוד gradio פתוח. ברגע שהשרת פעיל כל אחד יכול להעלות קובץ ולהריץ. עם זאת, זמינות החומרה תלויה במדיניות ההקצאה של הפלטפורמה המארחת.

איך משתמשים

גוררים קובץ תלת ממד לחלון הקלט, בוחרים אם להפעיל דגימה אקראית וקביעת Seed, ולוחצים על כפתור Generate. החומרה שהוגדרה להרצה היא כרטיס מסך A10G של אנבידיה שמופעל לפי דרישה דרך spaces, כך שלרוב העיבוד מתבצע תוך שניות בודדות ברגע שהחומרה מתעוררת.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, העתקה, שינוי והפצה גם לצרכים מסחריים. אין הצהרה על שמירת הקבצים שאתם מעלים לשרת.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗