qwen-vl
רץ בדפדפןartificialguybrרישיון לא דווח2023-09-03
ממשק פשוט שמאפשר לבחון מודלים ממשפחת Qwen-VL על תמונות שאתם מעלים מהמחשב. מתאים למי שרוצה לבדוק ראייה ממוחשבת מבוססת שפה בלי להגדיר סביבת עבודה מקומית.
- —הורדות בחודש
- 126לייקים
מה זה
מעלים תמונה, כותבים שאלה או הוראה בתיבת הטקסט, ובוחרים מודל מתוך הרשימה הנתמכת. הממשק מחזיר תשובה טקסטואלית בהתבסס על ניתוח התמונה וההנחיה שהגדרתם.
מתחת למכסה המנוע רצים מודלים שונים מסדרות Qwen2-VL, Qwen2.5-VL וגרסאות Qwen3-VL בגדלים שנעים בין 2B ל־8B פרמטרים. המערכת טוענת את המשקלים שנבחרו בפורמט bf16 ומריצה את העיבוד בעזרת ספריית transformers הרגילה.
אפשר גם לפתוח הגדרות מתקדמות ולשנות פרמטרים בסיסיים כמו max_new_tokens בין 32 ל־2048, טמפרטורה ו־Top-p, מה שמאפשר לכוונן את מידת היצירתיות או הדיוק של התשובה.
מתאים ל
- ניתוח תוכן מתמונה
מעלים צילום ושואלים שאלות מפורטות על האלמנטים המופיעים בו כדי לקבל תיאור מלא.
- השוואת מודלים
מריצים את אותה תמונה ואותו פרומפט מול מודלים בגדלים שונים כדי לבחון איכות מול גודל.
- חילוץ מידע חזותי
בדיקת היכולת של גרסאות Qwen השונות לקרוא ולפענח נתונים מתוך מסמכים או צילומי מסך.
איפה זה נופל
חובה להעלות תמונה ולכתוב הנחיה טקסטואלית, הממשק פשוט זורק שגיאה אם אחד מהם חסר. מעבר לזה, המערכת מוגבלת למודלים שמתאימים למגבלות של ZeroGPU, ולכן גרסאות ענק של הסדרה לא זמינות כאן. אם יש עומס על השרתים המשותפים, תצטרכו להמתין להקצאת חומרה.
שאלות
נפוצות
האם השימוש בממשק עולה כסף?
לא, הגישה פתוחה ורצה על גבי תשתית משותפת ללא תשלום. אין צורך לשלם על זמן מעבד גרפי כדי לבדוק את הדגמים שמופיעים ברשימה.
כמה זמן לוקח לקבל תשובה?
הזמן תלוי בשאלה אם המודל כבר טעון בזיכרון. אם המודל כבר פעיל, המעבד הגרפי מסוג A10G מגיב יחסית מהר, אבל אם מודל חדש נטען מאפס או שיש תור על החומרה, תיתכן המתנה קלה.
האם אפשר להריץ את זה על המחשב הפרטי?
הקוד מבוסס על ספריות פתוחות כמו transformers ו־gradio, כך שברמת העיקרון אפשר להוריד את המודלים ולהריץ אותם לבד. עם זאת, תצטרכו כרטיס מסך מתאים עם מספיק זיכרון כדי להחזיק מודלים של עד 8 מיליארד פרמטרים ב־bf16.
במה הממשק שונה משימוש ישיר במודל?
כאן מדובר במעטפת גרפית פשוטה שמיועדת לבדיקות נקודתיות בדפדפן. היא לא כוללת ממשקי API מתקדמים לאפליקציות חיצוניות, אלא רק מסך להעלאת תמונה אחת וקבלת מענה בודד בכל פעם.
איך משתמשים
בוחרים מודל מהתפריט, מעלים קובץ תמונה ומקלידים את הפרומפט. לחיצה על כפתור ההרצה מתחילה את התהליך. היישום רץ על תשתית Zero-A10G, כך שהמעבד הגרפי מוקצה לפי דרישה. אם המודל שבחרתם לא נמצא כרגע בזיכרון, ההרצה הראשונה תיקח זמן נוסף כדי לטעון אותו, ויש כפתור ייעודי לשחרור הזיכרון אם רוצים לנקות את הלוח.
הרישיון
הרישיון של הממשק עצמו לא דווח בפרטי היישום, מה שאומר שאין היתר שימוש מסחרי מוגדר בקוד שלו. התמונות שאתם מעלים והפרומפטים שאתם שולחים מעובדים בשרתי צד שלישי של Hugging Face, ולכן לא מומלץ להעלות לשם תמונות פרטיות או מידע רגיש.