חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
L

LiveCC

רץ בדפדפן

chenjoyaapache-2.02025-04-22

  • gradio

מעלים סרטון וידאו ומקבלים עליו פרשנות שוטפת בזמן אמת או מנהלים שיחה סביב התוכן שלו. הממשק מיועד למי שרוצה לבחון יכולות הבנת וידאו של מודל שפה.

  • —הורדות בחודש
  • 43לייקים

מה זה

מעלים קובץ וידאו או בוחרים מתוך דוגמאות מוכנות, ובוחרים באחד משני מצבים: פרשנות חיה על רצף האירועים בסרטון, או שיחה שבה שואלים שאלות על מה שרואים. המודל מייצר טקסט שמלווה בציון חותמות זמן מתוך הסרטון, כך שרואים מתי כל התרחשות זוהתה.

מאחורי הממשק רץ המודל LiveCC-7B-Instruct, שמבוסס על מאמר שהתקבל ל־CVPR 2025 ועוסק באימון מודלי וידאו-שפה מול תמלול דיבור רציף בהיקף גדול. הקוד כולל ניהול של זיכרון מטמון ומצב וידאו פנימי כדי לנסות לדמות תגובה מתמשכת לזרם הפריימים.

מתאים ל

  • פרשנות וידאו רציפה

    קבלת תיאור טקסטואלי אוטומטי של אירועים בסרטון עם חותמות זמן לפי התרחשותם.

  • מענה על שאלות מתוך וידאו

    העלאת קובץ ושאילת שאלות נקודתיות על מה שרואים או שומעים בו.

  • בדיקת ביצועי מודל 7B

    בחינת איכות ההבנה של מודל LiveCC מול סרטוני הדגמה או קבצים אישיים קצרים.

איפה זה נופל

זה לא תחליף לעיבוד וידאו מקצועי. שיחות מרובות שלבים נהיות איטיות מאוד בגלל ניהול זיכרון מוגבל בסביבת ההרצה, ואין תמיכה בהאצה גרפית ייעודית. מעבר לכך, חובה ללחוץ על כפתור ניקוי ייעודי לפני שמחליפים סרטון כדי לא לשבור את המצב הפנימי של התוכנה, וההשהיה המובנית הופכת את חוויית הזמן האמת לכבדה למדי בהשוואה להרצה מקומית של המאגר.

שאלות
נפוצות

האם אפשר להשתמש באפליקציה כרגע בחינם?

הגישה לקוד ולדף פתוחה לגמרי, אבל נכון לעכשיו המרחב עצמו נמצא במצב מושהה. כדי להשתמש בו צריך להמתין שיופעל מחדש או לשכפל אותו לחשבון שלכם. אם הוא רץ על תשתית ציבורית, השימוש הבסיסי הוא ללא עלות.

כמה זמן לוקח לקבל תשובה על סרטון?

הקוד עצמו מציין שיש עיכוב של 10 עד 20 שניות בעבודה דרך הדפדפן. לפני יצירת הטקסט, המערכת צריכה לטעון את הווידאו ולאתחל את המודל בזיכרון. במצב שיחה מרובת שלבים התגובות נעשות אטיות אפילו יותר.

האם אפשר להריץ את זה על המחשב שלי?

כן, המפתחים מפנים במפורש למאגר הגיטהאב livecc של showlab להתקנה מקומית. הרצה על חומרה פרטית עוקפת את מגבלות המהירות של הדפדפן ומאפשרת שימוש בהאצות גרפיות. לשם כך תצטרכו כרטיס מסך מתאים וסביבת פייתון מסודרת.

במה הממשק הזה שונה מהמודל עצמו?

הממשק מחבר את מודל LiveCC-7B-Instruct לעטיפה גרפית פשוטה של gradio. הוא מגביל את השימוש להגדרות ברירת מחדל ולחומרה שיתופית איטית יחסית. המודל עצמו גמיש יותר ומיועד במקור להרצה יעילה עם ספריות אופטימיזציה שאינן זמינות בעמוד זה.

איך משתמשים

בוחרים מצב עבודה, מעלים סרטון ולוחצים על שליחה, או כותבים שאלה ומצרפים וידאו. בפועל המרחב נמצא במצב מושהה על חומרת מעבד בסיסית, כך שכרגע לא ניתן להריץ אותו בדפדפן בלי הפעלה מחדש. גם כשהוא פועל, הקוד מזהיר מראש מעיכוב מובנה של 10 עד 20 שניות בעבודה דרך הדפדפן, בין היתר בגלל חוסר תמיכה בהאצת זיכרון וטעינה ראשונית של המודל.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי ושינוי קוד כולל לצרכים מסחריים בכפוף לתנאי הרישיון. סרטונים ושאלות שאתם שולחים לממשק נשלחים לשרתי האחסון שמריצים את ההדגמה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗