lykeven/visualglm-6b
רץ בדפדפןlykevenרישיון לא דווח2023-05-15
ממשק שיחה שמיועד לענות על שאלות לגבי תמונות שאתם מעלים. הוא מתאים למי שרוצה לבחון יכולות ראייה ממוחשבת ושפה על גבי דגם visualglm-6b.
- —הורדות בחודש
- 117לייקים
מה זה
אתם מעלים תמונה ומקלידים שאלה בתיבת הטקסט, ומקבלים תשובה בצורת שיחה מול בוט. המערכת כוללת גם דוגמאות מובנות שנלקחות מקובץ נתונים מקומי, ומציגה שלוש דוגמאות מוכנות בכל עמוד כדי לבדוק איך המודל מגיב לפקודות שונות יחד עם קובצי תמונה.
מאחורי הקלעים הקוד מתבסס על המודל visualglm-6b, שמשלב פענוח תמונה יחד עם מודל שפה. הממשק נותן לכוון מדדים כמו טמפרטורה, שמוגדרת כברירת מחדל על 0.8, וערך top_p שמוגדר על 0.4. השיחה נשמרת ברכיב צ'אט ומאפשרת מעקב אחרי היסטוריית חילופי הדברים סביב אותה תמונה.
מתאים ל
- שאלות על תמונות
מעלים קובץ תמונה ושואלים שאלות ממוקדות על מה שמופיע בה.
- בדיקת פרמטרי יצירה
משנים את ערכי הטמפרטורה וערך top_p כדי לראות איך רמת היצירתיות משתנה.
- הרצת דוגמאות מוכנות
טוענים צמדי תמונות וטקסט מתוך הדוגמאות המובנות כדי לבחון תשובות טיפוסיות.
איפה זה נופל
הבעיה המיידית היא שהמרחב מסומן בשגיאת ריצה ולא עובד כרגע. מעבר לזה, חומרת מעבד בסיסית לא מיועדת להרצה יעילה של מודל בגודל 6 מיליארד פרמטרים. אם המרחב היה עולה, זמני התגובה היו איטיים במיוחד, ואין כאן אפשרות לבחון ביצועים בזמן אמת ללא שרת עם כרטיס מסך מתאים.
שאלות
נפוצות
האם זה חינם?
כן, המרחב פתוח לגישה ישירה בדפדפן ללא תשלום. עם זאת, הוא לא פעיל כרגע בגלל שגיאת ריצה שמונעת ממנו לעלות. אין צורך להזין אמצעי תשלום כדי לראות את הקוד או את מבנה הממשק.
מה קורה עם הקבצים שלי?
הקוד שומר תמונות בתיקיית דוגמאות פנימית תוך שימוש בחותמת זמן וגיבוב נתונים. מכיוון שהאפליקציה פועלת במרחב ציבורי, לא כדאי להעלות אליה תמונות רגישות או מידע פרטי. מומלץ לבדוק את אופן שמירת הקבצים בקוד לפני שמשתמשים בה.
כמה זמן לוקח לקבל תשובה?
כרגע אי אפשר לקבל תשובה כלל כי היישום מדווח על שגיאת ריצה. אם הוא יתוקן וימשיך לרוץ על מעבד בסיסי, עיבוד שאילתה ייקח זמן רב יחסית. מודל בגודל כזה דורש בדרך כלל מאיץ גרפי כדי להגיב תוך שניות בודדות.
האם אפשר להריץ את זה מקומית?
אפשר להוריד את קובץ app.py ואת קובצי העיצוב ולהריץ אותם בסביבה מקומית. כדי שהמודל יפעל בצורה חלקה, תצטרכו להתקין את הספריות הנדרשות ולהצטייד במחשב עם כרטיס מסך מתאים. על מעבד רגיל הביצועים יהיו אטיים מאוד.
איך משתמשים
טוענים תמונה, כותבים שאלה בתיבת הקלט ולוחצים על כפתור Generate כדי לקבל תשובה, או על Clear כדי לנקות את השדות. המרחב רץ על חומרת מעבד בסיסית בלבד ללא מאיץ גרפי, אבל כרגע הוא נמצא במצב שגיאת ריצה. בגלל התקלה הזו אי אפשר להריץ שאילתות בדפדפן עד שיוצר המרחב יתקן את הקוד או את התלויות.
הרישיון
היוצר לא הגדיר רישיון שימוש במרחב. בלי רישיון מפורש אין היתר ברור להשתמש בקוד, להעתיק אותו לשימוש מסחרי או להסתמך על זכויות היוצרים של התוצרים.