GPT
O

Ovis1.6-Gemma2-9B — הדגמה

קוד פתוח

ATH-MaaSapache-2.02024-09-18

  • gradio

מעלים תמונה, כותבים שאלה ומקבלים תשובה טקסטואלית שמנתחת את מה שמופיע בה. מתאים למי שרוצה לבדוק יכולות של מודל ראייה ושפה על שאלות חזותיות.

  • 10Bפרמטרים
  • 19.0 GBמשקל הקבצים
  • הורדות בחודש
  • 322לייקים

מה זה

אתם מעלים קובץ תמונה לתיבת הקלט ומקלידים לצדה הנחיה קצרה, כמו בקשה לפענוח נתונים או הסבר על תרשים. בצד השני מופיע חלון צ'אט שמחזיר תשובות בטקסט רציף עם תמיכה בנוסחאות מתמטיות. התשובות מוזרמות ישירות למסך בזמן שהן נוצרות.

מאחורי הממשק רץ המודל ATH-MaaS/Ovis1.6-Gemma2-9B באמצעות ספריית transformers של פייתון. הוא משלב עיבוד תמונה יחד עם מודל השפה ג'מה 2 בגודל 9 מיליארד פרמטרים כדי לקשר בין תוכן ויזואלי להבנת שפה טבעית.

הדוגמאות המובנות מדגימות מגוון משימות מוגדרות: חישוב שטח של אזור מוצלל מתוך שרטוט גיאומטרי, בקשה להסבר על דיאגרמה של ארכיטקטורת מודל, וחישוב פיננסי של שולי רווח נקי מתוך דוח או גרף.

מתאים ל

  • פתרון בעיות גיאומטריה

    מעלים שרטוט מתמטי ומבקשים מהמודל לחשב שטחים או זוויות לפי הנתונים החזותיים.

  • הסבר תרשימים ודיאגרמות

    מזינים איור טכני של מערכת או מודל ומקבלים פירוט על הרכיבים השונים שמופיעים בו.

  • שליפת נתונים מגרפים

    מעלים תמונה של דוח פיננסי או גרף עסקי כדי לחלץ מדדים ספציפיים כמו שולי רווח.

איפה זה נופל

הבעיה המרכזית כרגע היא שהאפליקציה בכלל לא עולה בדפדפן ומציגה שגיאת בנייה. גם אם היא הייתה נטענת, הרצה של מודל בגודל 9 מיליארד פרמטרים על מעבד בסיסי בלי מאיץ גרפי ייעודי הייתה גורמת לזמני מענה ארוכים מאוד. בנוסף, חלון הקלט מוגבל לתמונה אחת בכל פעם עם שאלה בודדת, כך שאי אפשר להזין מסמכים מרובי עמודים או לנהל שיחה מורכבת ומתמשכת שמבוססת על כמה מקורות מידע במקביל.

שאלות
נפוצות

האם השימוש באפליקציה הזאת כרוך בתשלום?

הגישה לעמוד בהאגינג פייס היא חינמית לגמרי ואינה דורשת תשלום. עם זאת, כרגע האפליקציה תקועה בשגיאת בנייה, כך שלא ניתן להפעיל אותה בפועל דרך הדפדפן ללא תיקון של המפתח.

מה קורה עם התמונות והטקסט שמעלים לכאן?

הנתונים שאתם מזינים נשלחים ישירות לשרת שמריץ את הקוד בהאגינג פייס לצורך יצירת התשובה. מכיוון שמדובר במרחב ציבורי ברשת, מומלץ לא להעלות מסמכים מסחריים רגישים או תמונות עם פרטים אישיים.

האם אפשר להריץ את המערכת הזאת באופן מקומי?

כן, המודל והקוד מפורסמים תחת רישיון אפאצ'י 2.0 ופתוחים להורדה חופשית. תצטרכו מחשב או שרת עם מעבד גרפי מתאים כדי להריץ מודל של 9 מיליארד פרמטרים בקצב סביר.

במה האפליקציה הזאת שונה משימוש ישיר במודל?

האפליקציה עוטפת את המודל בממשק גרפי של גרדיו שמאפשר להעלות קובץ ולראות את השיחה בחלון צ'אט. שימוש ישיר במודל דורש כתיבת קוד פייתון משלכם ושילוב שלו בתוך סביבת עבודה עצמאית.

איך מריצים

בפועל, השימוש באפליקציה בדפדפן חסום כרגע כי היא נמצאת במצב שגיאת בנייה. במצב עבודה רגיל אתם גוררים תמונה, כותבים שאלה בתיבה ולוחצים על Send כדי לקבל תשובה, או לוחצים על Clear כדי לנקות את המסך. הקוד כולל שימוש בספריית spaces של האגינג פייס לניהול משאבים, אך החומרה שמוקצית לו בהגדרות הבסיס היא מעבד רגיל בלבד.

pip install -U huggingface_hub
hf download ATH-MaaS/Ovis1.6-Gemma2-9B

הרישיון

הקוד והמודל משוחררים תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש חופשי, שינוי של הקוד והפצה, כולל שימוש מסחרי, כל עוד שומרים על הודעות זכויות היוצרים המקוריות. התכנים והתמונות שאתם מעלים מועברים ישירות לתשתית של האגינג פייס שבה האפליקציה מאוחסנת.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗