Apriel-Chat

מה זה

אתם מקלידים שאלה בתיבת הטקסט או מעלים תמונות, ומקבלים תשובת טקסט בצורת שיחה. הממשק כולל תיבת קלט רב מודלית שתומכת בהעלאת קבצים, כפתור עצירה לתשובות ארוכות וכפתור לאיפוס השיחה. בנוסף, ישנה תיבת סימון שמאפשרת לבקש אי שמירה של השיחה ברישומים.

מאחורי הקלעים רצה גישה למודלים שונים ממשפחת Apriel, ביניהם Apriel-1.6-15B-Thinker שמוגדר כברירת מחדל עם טמפרטורה של 0.6, לצד גרסאות קודמות כמו 1.5, גרסת Nemotron מבוססת חשיבה ומודל קטן יותר של 5B. הקוד משתמש בלקוח OpenAI כדי לתקשר עם השרת שמריץ את המודל בפועל ומציג את התשובות בחלון הצ'אט של Gradio.

מתאים ל

• בדיקת הסקת מסקנות

  הרצת שאלות מורכבות מול מודל 15B Thinker כדי לבחון את שרשרת החשיבה שלו.

• ניתוח תמונות בשילוב טקסט

  העלאת קובצי תמונה יחד עם הנחיות בטקסט לקבלת מענה רב מודלי מהיר.

• השוואת מודלים מאותה משפחה

  מעבר בין גרסאות 1.6, 1.5 ו־5B דרך התפריט כדי לראות הבדלים באיכות המענה.

איפה זה נופל

יש מגבלה על כמות התמונות שאפשר לשלוח, והקוד מוחק תמונות ישנות או מתעלם מקבצים עודפים אם חורגים מהרף. בנוסף, הממשק עלול להציג שגיאה על חוסר עדכון בדפדפן שמחייבת רענון מלא של העמוד. כדאי לזכור שזמני התגובה יכולים להשתנות לפי העומס על שרתי ה־API של המודלים, ולא מדובר בהרצה מקומית שמבטיחה זמינות קבועה.

איך משתמשים

בוחרים מודל מתוך הרשימה הנפתחת, מקלידים הודעה או מצרפים תמונה, ולוחצים על Send. הממשק פתוח לשימוש חופשי בדפדפן ללא צורך בהתחברות. האפליקציה עצמה יושבת על חומרת מעבד בסיסית, אך היא פועלת מול נקודת קצה מרוחקת שמייצרת את התשובות. המהירות תלויה בעומס על אותו שרת מרוחק, וכשמודל מייצר תשובות ארוכות אפשר לעצור אותו באמצע באמצעות כפתור Stop.

הרישיון

הקוד מופץ תחת רישיון MIT שמאפשר שימוש חופשי, שינוי והפצה. הממשק כולל תיעוד מפורש של נתוני השיחה לטובת בדיקות ומשוב, אך כולל אפשרות לבטל את התיעוד באמצעות תיבת סימון בעמוד.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗