huggingface-projects/gemma-3n-E4B-it
רץ בדפדפןhuggingface-projectsרישיון לא דווח2025-06-24
הדגמת צ'אט שמריצה את המודל של גוגל לעיבוד טקסט, תמונות ווידאו ישירות בדפדפן. היא מיועדת למי שרוצה לבדוק יכולות מולטימטריות בלי להתקין ספריות מקומית.
- —הורדות בחודש
- 144לייקים
מה זה
הממשק מבוסס על צ'אט שבו אתם מקלידים הנחיות ומעלים קבצי מדיה, ומקבלים תשובות טקסט שמוזרמות בזמן אמת. מתחת למכסה רץ המודל google/gemma-3n-E4B-it באמצעות ספריית transformers, בתצורת bfloat16 שמיועדת למשימות ImageTextToText. אפשר לשלוח לו שאלות רגילות, להזין תמונות לניתוח, או להעלות קובץ וידאו יחיד כדי שהמודל יפענח מה קורה בתוכו לפי פריימים.
בקוד הוגדרו דוגמאות מוכנות מראש, אבל הן לא רצות מיד בלחיצה אלא רק נטענות לשדה הקלט כדי שתוכלו לערוך או להפעיל אותן בעצמכם. יש גם שליטה ישירה בהוראות המערכת באמצעות שדה System Prompt, ומחוון לכמות הטוקנים המקסימלית שהמודל ייצר בכל תשובה, מ־100 ועד 2000.
מתאים ל
- ניתוח תמונה ושאלות עליה
מעלים תמונה אחת או יותר ושואלים שאלות על הפרטים שמופיעים בהן ישירות בחלון השיחה.
- בדיקת סרטון קצר
מזינים קובץ וידאו בודד כדי לקבל תיאור תמציתי של המתרחש בו לפי מספר פריימים מוגבל.
- התאמת הנחיית מערכת
משנים את שדה ה־System Prompt ובודקים איך סגנון התשובה של המודל משתנה עם אותן שאלות.
איפה זה נופל
יש פה הגבלות קשיחות שלא קיימות בהכרח במודל הגולמי. הקוד חוסם לחלוטין שילוב של תמונות ווידאו באותה הודעה, ומאפשר להעלות רק וידאו אחד בכל פעם. בנוסף, קובצי וידאו נחתכים לקצב פריימים מוגדר מראש ולכמות פריימים מקסימלית, כך שאי אפשר להסתמך עליה לניתוח של סרטונים ארוכים ומורכבים.
שאלות
נפוצות
האם השימוש בעמוד הזה עולה כסף?
לא, המרחב פתוח לגישה ישירה דרך הדפדפן ללא תשלום. אין צורך להזין אמצעי תשלום, אך הזמינות תלויה במשאבי החומרה המשותפים של השרת.
מה קורה עם קבצי הווידאו והתמונות שאני מעלה?
הקבצים מעובדים בשרת באמצעות gradio וספריית av לצורך חיתוך הפריימים, ונשמרים בתיקיות זמניות בזמן הריצה. אם המידע רגיש, עדיף לא להעלות אותו להדגמות שרצות על שרתים ציבוריים.
כמה זמן לוקח לקבל תשובה?
טקסט רגיל מגיב בתוך שניות ספורות בזכות הזרמת הטוקנים. ניתוח וידאו לוקח זמן רב יותר, כי המערכת צריכה לפענח את הפריימים לפני שהמודל מתחיל לענות.
האם אפשר להריץ את זה מקומית על המחשב?
כן, הקוד משתמש בספריות transformers ו־torch סטנדרטיות וטוען את google/gemma-3n-E4B-it. תצטרכו כרטיס מסך עם זיכרון מתאים כדי להריץ את המודל ב־bfloat16.
איך משתמשים
פותחים את העמוד, מקלידים טקסט בתיבה או מצרפים קובץ, ולוחצים על שליחה. האפליקציה רצה על תשתית zero-a10g, מה שאומר שהמעבד הגרפי מוקצה לפי דרישה. אם השרת היה רדום ייקח לו כמה שניות להתעורר, וכשיש עומס תצטרכו להמתין בתור של spaces. לא צריך להתחבר עם חשבון מיוחד כדי לנסות.
הרישיון
הרישיון של המרחב עצמו לא דווח בקוד או בהגדרות. זה אומר שאין היתר שימוש ברור לקוד ההדגמה, וכדאי לבדוק את תנאי השימוש של מודל המקור google/gemma-3n-E4B-it לפני כל שימוש מסחרי או שמירת תוצרים.