Bonsai-Image-Demo
רץ בדפדפןprism-mlרישיון לא דווח2026-05-13
הדגמת רשת שמריצה גרסאות מכווצות של מודל התמונות Bonsai 4B על גבי מעבד גרפי. היא מתאימה למי שרוצה לבדוק איכות יצירה של מודלים במשקלי ביט בודד או ביט וחצי לפני שמוריד אותם למחשב.
- —הורדות בחודש
- 114לייקים
מה זה
אתם מקלידים תיאור טקסטואלי ומקבלים תמונה שנוצרת ישירות דרך הדפדפן. הממשק נשען על סדרת מודלים מקומיים בגודל 4 מיליארד פרמטרים, שנדחסו בצורה קיצונית באמצעות שיטות קוונטיזציה של ביט אחד וביט וחצי. המטרה כאן היא להראות איך ארכיטקטורה כזו מתפקדת בפועל.
מאחורי הקלעים נמצאים מודלים בינאריים וטרנאריים, שכוללים גרסאות מותאמות לספריות כמו MLX ו־Gemlite לצד גרסאות לא ארוזות. התוצאה המוזרמת אליכם מאפשרת לבחון האם הדחיסה הזו שומרת על פרטים ויזואליים סבירים או מפרקת לחלוטין את היכולת של המודל לעקוב אחרי הפרומפט.
מתאים ל
- בדיקת איכות של מודל מכווץ
בוחנים האם מודל תמונה שנדחס לביט בודד מסוגל לייצר פלט הגיוני.
- השוואת ביצועי קוונטיזציה
רואים את ההבדל הוויזואלי בין דחיסת ביט אחד לבין ביט וחצי.
- הערכה לפני הרצה עצמאית
בודקים את היכולות הבסיסיות ברשת לפני שמתקינים את גרסאות ה־MLX על המחשב.
איפה זה נופל
ההדגמה הזו מושהית כרגע, מה שאומר שאי אפשר לייצר בה תמונות בלי שהבעלים יחזירו אותה לפעילות. מעבר לזה, מדובר במודלים קטנים ומכווצים מאוד, כך שרמת הדיוק ועיבוד הפרטים נמוכים משמעותית ממודלים מלאים בגודל סטנדרטי. הממשק שיתופי לחלוטין, ואין בו מקום להרצת אוטומציות או בדיקות עומס רחבות.
שאלות
נפוצות
האם השימוש בהדגמה כרוך בתשלום?
לא, הגישה חופשית לגמרי דרך הדפדפן. המשאבים משותפים לכל המבקרים, ולכן תחת עומס ייתכן שתמתינו בתור.
האם המידע והפרומפטים שלי נשמרים בשרת?
היוצרים מצהירים שהם לא שומרים שום תיעוד של הפרומפטים או התמונות. היסטוריית הפעולות נשמרת אך ורק בדפדפן המקומי שלכם ונמחקת כשמנקים זיכרון מטמון.
למה הממשק לא מגיב לי כרגע?
האפליקציה מוגדרת כרגע במצב מושהה. כל עוד מי שהעלה אותה לא יפעיל אותה מחדש, אי אפשר לשלוח בקשות ולקבל פלטים.
במה ההדגמה הזו שונה מהרצת המודלים בעצמי?
כאן הכל רץ על מאיץ L4 בענן עם ממשק מוכן וסגור. בהרצה מקומית תצטרכו להוריד את המשקלים של Bonsai 4B ולהגדיר את ספריות התמיכה בעצמכם.
איך משתמשים
כותבים פרומפט, לוחצים על כפתור ההפעלה, והתמונה מוזרמת חזרה דרך חיבור מאובטח. כרגע ההדגמה נמצאת במצב מושהה, כך שאי אפשר להריץ אותה ישירות עד שהיא תופעל מחדש. כשהיא פועלת, היא רצה על גבי מאיץ L4 יחיד, וכל התעבורה מתחלקת בין כלל המשתמשים, כך שעומס עלול ליצור תור.
הרישיון
הרישיון לא דווח בעמוד של prism-ml. המשמעות היא שאין הרשאה ברורה לשימוש מסחרי בתמונות שנוצרות או בקוד של הממשק. המפתחים מצהירים שהם לא שומרים לוגים של הבקשות או התמונות, והיסטוריית הטקסט נשמרת רק בזיכרון המקומי של הדפדפן שלכם.