חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
C

CuMo-7b-zero

רץ בדפדפן

shi-labscc-by-nc-4.02024-05-10

  • gradio

הדגמת צ'אט רב מודלי שמעבדת תמונות וטקסט יחד. מתאימה למי שרוצה לבדוק זיהוי אובייקטים ומענה לשאלות על בסיס ויזואלי.

  • —הורדות בחודש
  • 81לייקים

מה זה

אתם מעלים תמונה, כותבים שאלה בתיבת הטקסט ומקבלים תשובה מילולית בחלון הצ'אט. הממשק נשען על המודל CuMo-mistral-7b בשילוב Mistral-7B-Instruct-v0.2, לצד מודלי שפה של פייסבוק שנמצאים בקוד, ומאומן על בסיסי נתונים כמו MathVista ו־MMMU.

דוגמאות המערכת כוללות זיהוי דמויות בפוסטר של סרט, ספירת מצרכים במקרר, זיהוי דגם של רכב בתמונה, איתור צבע של פריט לבוש וזיהוי בעלי חיים. ישנה שליטה ידנית בטמפרטורה, ערך Top P ומגבלת אורך פלט עד 512 טוקנים כברירת מחדל.

מתאים ל

  • זיהוי פריטים בתמונה

    מעלים צילום של מקרר או חדר ומקבלים פירוט של המוצרים והעצמים שנמצאים בו.

  • זיהוי כלי רכב

    בדיקת דגם הרכב שמופיע בצילום ישירות מתוך התמונה.

  • מענה על פוסטרים וסרטים

    קבלת תיאור רקע ומידע על סרט מתוך תמונת הפוסטר שלו.

איפה זה נופל

ההדגמה מסומנת במצב של שגיאת קונפיגורציה, כך שאי אפשר להריץ אותה ישירות כרגע. הדוגמאות המוכנות מראש אינן נשמרות במטמון, ואורך הפלט המרבי מוגבל ל־1024 טוקנים בלבד. מעבר לכך, אין תיעוד לגבי תמיכה ישירה בעברית.

שאלות
נפוצות

האם הממשק פועל כרגע בדפדפן?

לא, העמוד מוגדר כעת במצב תקלה טכנית של הגדרות מערכת. עד שהיוצרים לא יתקנו את הקבצים, אי אפשר להריץ שאילתות דרך הדפדפן. אפשר רק לעיין בקוד המקור ובמבנה הממשק.

האם השימוש פתוח לשימוש מסחרי?

לא, הרישיון שמוגדר בפרויקט הוא לא מסחרי. מותר להשתמש בו לניסויים, לבדיקות ולמחקר עצמאי בלבד. כל שילוב במוצר שמייצר רווח מפר את תנאי הרישיון.

מה קורה עם התמונות והטקסט שמעלים?

קוד האפליקציה כולל רכיבי רישום נתונים מקומיים ששומרים את השיחות והקבצים. בנוסף פועל מנגנון בדיקת תוכן אוטומטי שבוחן את הקלט. לא מומלץ להעלות מידע פרטי או רגיש.

אפשר להריץ את המערכת על מחשב מקומי?

כן, הקוד הציבורי מבוסס על ספריות פתוחות כמו transformers ו־gradio. כדי להריץ אותו עצמאית תצטרכו חומרה חזקה שתומכת במודל 7B, בדומה למאיץ A10G שבו המערכת משתמשת בענן. יש להוריד את המשקלים של הדגמים המקושרים ולהפעיל את הקוד מקומית.

איך משתמשים

טוענים קובץ תמונה, מקלידים הנחיה ולוחצים על Send. השרת מוגדר לרוץ על מאיץ גרפי מסוג zero-a10g שמקצה משאבים לפי דרישה, מה שאמור לספק תגובות שוטפות דרך הזרמת טקסט. עם זאת, העמוד מדווח כרגע על שגיאת הגדרה ואינו זמין בפועל לשימוש בדפדפן.

הרישיון

הפרויקט מפורסם תחת רישיון cc-by-nc-4.0. השימוש מותר למטרות מחקר ושימוש אישי בלבד, ללא שימוש מסחרי. תמונות ושיחות שנשלחות נרשמות בקובצי יומן של השרת לפי הקוד.

  • שינוי הקוד
  • חובת ייחוס
  • שימוש מסחרי: לא

הרישיון המלא ב־Hugging Face ↗