Mistral-Pixtral-Demo
רץ בדפדפןethuxרישיון לא דווח2024-09-13
הדגמת צ'אט שמאפשרת לשוחח עם מודל הראייה והשפה Pixtral 12B. היא מיועדת למי שרוצה לבחון יכולות הבנת תמונה של מיסטרל בלי להרים תשתית בעצמו.
- —הורדות בחודש
- 40לייקים
מה זה
מדובר בממשק שיחה שקולט הודעות טקסט יחד עם קובצי תמונה, ומחזיר מענה טקסטואלי שמנתח את מה ששלחתם. מתחת למכסה המנוע הקוד טוען את המודל mistralai/Pixtral 12B 2409 דרך ספריית mistral inference הרשמית, ומשתמש בטוקנייזר הייעודי שלהם לפרוטוקול של הוראות ותמונות.
הקוד מושך את המשקולות ישירות ממאגר הקהילה mistral community, וממיר את התמונות לפורמט בייס שישים וארבע כדי להזין אותן למודל. הממשק מבוסס על רכיב הצ'אט המולטימודלי של גרדיו, בלי הדגמות מובנות מוכנות מראש בעמוד.
מתאים ל
- ניתוח תמונות בשיחה
שליחת תמונה לצד שאלות טקסט כדי לבחון איך המודל מזהה ומפרש פרטים ויזואליים.
- בדיקת ספריית mistral inference
צפייה בקוד המקור שמחבר בין ספריית ההסקה של מיסטרל לבין ממשק צ'אט של גרדיו.
- התרשמות ממודל 12B
הבנת היכולת הכללית של גרסת שתים עשרה מיליארד פרמטרים מול מודלים מתחרים בתחום הראייה.
איפה זה נופל
הבעיה המרכזית היא שהכלי פשוט קרס ולא רץ כרגע. מעבר לזה, הדגמה שמנסה לטעון מודל כבד על מעבד רגיל מטעה לגבי הביצועים האמיתיים של המודל, כי היא איטית בהרבה מהרצה מקצועית.
אין כאן תמיכה בווידאו או באודיו, והממשק לא מציע שליטה בפרמטרים בסיסיים כמו טמפרטורה או אורך הפלט המקסימלי.
שאלות
נפוצות
האם השימוש באפליקציה הזאת עולה כסף?
הגישה לעמוד בהאגינג פייס פתוחה לחלוטין וללא תשלום. עם זאת, מכיוון שהיא נמצאת כרגע במצב שגיאה, אי אפשר באמת לשלוח הודעות ולקבל תוצאות.
כמה זמן לוקח לקבל תשובה מהרגע שמעלים תמונה?
כרגע הממשק שבור ולא מחזיר תשובה כלל. במידה והוא יתוקן, ההרצה על מעבד רגיל צפויה לקחת שניות ארוכות ואף דקות לכל תשובה בגלל גודל המודל.
מה קורה לתמונות ולטקסטים שאני מעלה?
הקבצים נשלחים אל השרת שעליו רץ המרחב של המפתח כדי לעבור עיבוד בזיכרון. אין התחייבות רשמית על שמירת המידע או מחיקתו, ולכן עדיף להימנע מהעלאת מידע רגיש.
האם אפשר להריץ את הקוד הזה במחשב המקומי?
כן, הקוד מפורסם בקובץ האפליקציה וניתן להעתקה חופשית למחשב שלכם. כדי שהוא באמת יעבוד תצטרכו להוריד את המשקולות ולהחזיק חומרה עם כרטיס מסך חזק שמסוגל לטעון מודל בגודל הזה.
איך משתמשים
בפועל, כרגע אי אפשר להשתמש בה. האפליקציה נמצאת במצב שגיאת ריצה, ולכן העמוד לא יענה לפקודות בדפדפן עד שמי שבנה אותה יתקן את הבעיה בקוד.
ההגדרה של המרחב נשענת על מעבד בסיסי, למרות שבקוד יש שימוש במודול חלוקת משאבים להאצת חומרה. אם היא הייתה פעילה, מודל של שתים עשרה מיליארד פרמטרים שרץ על חומרה חלשה כזו היה מגיב באיטיות ניכרת, או דורש מעבר לכרטיס גרפי ייעודי כדי לחלץ תשובה בזמן סביר.
הרישיון
הרישיון של האפליקציה לא דווח במאגר, ולכן אין הגדרה ברורה לגבי תנאי השימוש בקוד עצמו. המודל שנטען שייך למיסטרל, אבל בלי רישיון מוגדר בהדגמה מומלץ לא להזין אליה מידע פרטי או קבצים מסחריים.