lapa
רץ בדפדפןlapa-llmרישיון לא דווח2025-08-19
ממשק שיחה פשוט לבדיקת מודל ההוראות lapa ישירות בדפדפן. מתאים למי שרוצה להתנסות ביכולות הטקסט והתמונה שלו בלי להוריד משקלים או להגדיר שרת מקומי.
- —הורדות בחודש
- 49לייקים
מה זה
המסך מציג צ'אט נקי שבו אתם מקלידים שאלות ומקבלים תשובות בטקסט שזורם בזמן אמת. מעבר לטקסט רגיל, יש שדה ייעודי להעלאת תמונה, כך שאפשר לשלב קלט חזותי יחד עם ההוראות הכתובות ולראות איך המודל מנתח אותו. הממשק כולל גם דוגמאות מובנות בלחיצה אחת, שמאפשרות לבדוק מיד פרומפטים מוכנים בלי לחשוב מה לכתוב.
מאחורי הקלעים רץ המודל lapa-v0.1.3-instruct של lapa-llm, שנטען באמצעות ספריית transformers וכולל מעבד תמונה וטוקנייזר תואמים. לצורך האצת החישוב והתשובות, הקוד מסתמך על קרנלים ייעודיים של flash-attn2 או flash-attn3. השילוב הזה מטפל בתקשורת מול המודל ומזרים את הפלט ישירות לחלון השיחה.
מתאים ל
- בדיקת המודל עם תמונות
מעלים תמונה ושואלים שאלות כדי לבדוק איך המודל מתאר ומנתח פרטים חזותיים.
- ניסוי מהיר בהוראות טקסט
מריצים שאלות ובקשות מנוסחות כדי לאמוד את רמת ההבנה של גרסת ההוראות.
- התרשמות לפני הטמעה
בודקים את תגובות המודל בדפדפן לפני שמורידים משקלים כבדים למחשב מקומי.
איפה זה נופל
הקוד כולל רישום אנליטיקה חיצוני לכל שיחה, כך שההדגמה לא מתאימה להזנת מידע סודי או נתונים פרטיים. כפתור ייצוא השיחה לקובץ מסומן בהערה בקוד ולכן לא זמין כרגע, מה שמחייב העתקה ידנית של הפלט. מכיוון שמדובר בגרסה נקודתית הרצה על תשתית שיתופית, ייתכנו ניתוקים בעומס גבוה והביצועים תלויים לחלוטין במגבלות המודל הספציפי.
שאלות
נפוצות
האם השימוש בממשק עולה כסף?
השימוש בדפדפן פתוח לחלוטין וללא תשלום. אין צורך להכניס אמצעי תשלום או להירשם.
האם התמונות וההודעות שלי נשמרות?
קוד האפליקציה מפעיל כלי אנליטיקה שמתעד את הפעלת המודל. לא מומלץ להעלות חומרים רגישים או תמונות פרטיות.
כמה זמן לוקח לקבל תשובה?
ההרצה מתבצעת על מאיץ A10G עם זיכרון מהיר. התשובות מוזרמות תוך שניות בודדות, אלא אם המופע נרדם ונדרשת הפעלה מחדש.
האם אפשר להריץ את זה מקומית?
כן, הקוד מבוסס על ספריות סטנדרטיות וטוען את המודל ישירות. כדי להריץ לבד תצטרכו חומרה מתאימה ותמיכה ברכיבי ההאצה.
איך משתמשים
טוענים את הדף, כותבים הודעה בתיבת הטקסט, מצרפים תמונה אם רוצים, ולוחצים על Send או מקישים Enter. הכלי רץ על מעבד גרפי מדגם A10G של חברת אנבידיה בתשתית Zero, כך שאם המופע קר ייקח לו כמה רגעים להתעורר, אבל לאחר מכן יצירת התשובות עובדת מהר. אין צורך בהתחברות או בהזנת מפתח אישי כדי להתחיל.
הרישיון
הרישיון של המרחב לא דווח בדף המקור. ללא רישיון מוגדר, מותר לבדוק את הממשק לשימוש פרטי אך אין אישור ברור לשימוש מסחרי בקוד, וכל תוכן שמעלים חשוף למעקב האנליטיקה שמוטמע במערכת.