Florence-VL-8B

מה זה

הממשק מציע להעלות תמונה בקובץ ולהזין שאלות או הנחיות בתיבת טקסט, כשהתשובות מופיעות בתוך חלון שיחה. יש אפשרות לכוונן פרמטרים בסיסיים של יצירה כמו טמפרטורה, ערך Top P ואורך פלט מרבי של עד 512 טוקנים כברירת מחדל, עם גבול עליון של 1024.

מאחורי הקלעים הקוד משתמש במבנה השיחה ובטעינת המודלים של LLaVA, וברשימת המודלים מופיעים jiuhai/florence-vl-8b-sft לצד דגמים נוספים כמו Phi-3.5-vision-instruct ו־opt. רכיבי הדוגמאות שהוגדרו בקוד ריקים מתוכן, כך שאין תמונות מוכנות מראש ללחוץ עליהן.

מתאים ל

• ניתוח תמונה בודדת

  העלאת קובץ תמונה ושליחת שאלות ממוקדות על מה שמופיע בה דרך תיבת הטקסט.

• בדיקת פרמטרי יצירה

  כוונון טמפרטורה וערכי Top P כדי לבחון איך המודל משנה את מידת היצירתיות בתשובות.

• הערכת זמני מעבד

  בדיקה מעשית של ביצועי הרצת מודלי ראייה כבדים על חומרת מעבד בסיסית בלבד.

איפה זה נופל

הבעיה המיידית היא שהיא פשוט קורסת ולא פועלת כרגע בעמוד שלה. מעבר לזה, רשימת המודלים שמקושרת אליה כוללת גם מודלים זעירים וגם מודלי ראייה שונים, בעוד שהקוד עצמו נשען על ספריות LLaVA, מה שיוצר חוסר בהירות לגבי מה באמת מייצר את הפלט. אין כאן מנגנוני עיבוד מתקדמים מעבר להזנת תמונה בודדת ושאלה.

איך משתמשים

כרגע אי אפשר להריץ אותה בדפדפן כי השרת שלה נמצא במצב של שגיאת ריצה. באופן עקרוני השימוש מבוסס על העלאת תמונה, הקלדת טקסט ולחיצה על כפתור השליחה. ההדגמה מוגדרת על חומרת מעבד בסיסית בלבד ללא מאיץ גרפי, כך שגם אם היא תעלה מחדש, עיבוד של מודל בגודל כזה על מעבד ייקח זמן רב מאוד ולא יספק מענה מיידי.

הרישיון

לא צוין רישיון קוד או שימוש בעמוד ההדגמה. בהיעדר רישיון מוגדר, אין לדעת אם מותר להשתמש בפלטים לצרכים מסחריים, ורצוי להימנע מהעלאת תמונות רגישות או פרטיות לשרת.

הרישיון המלא ב־Hugging Face ↗