mistral-7b-v0.3-chat

מה זה

האפליקציה בנויה כממשק צ'אט שמקבל שאלות בטקסט חופשי ומחזיר תשובות מהמודל. בצד הטכני היא נשענת על מודלים ממשפחת Mistral-7B-v0.3 וגרסת ההוראות שלה, ומתחברת אליהם דרך InferenceClient כדי למשוך את התוכן בלי להחזיק את כל המשקלים בזיכרון המקומי.

בתוך הקוד יש ארבעה מחוונים שונים לכיוונון פרמטרים של היצירה, לצד כפתורי העתקה וסימון לייק לתשובות. בנוסף מופיעות בקוד שורות טעינה מוזרות למודלים אחרים לגמרי כמו גרסת פאי של מיקרוסופט ומודל תמונות, מה שמעיד על מימוש מבולגן שלא לגמרי סגור על מה שהוא מריץ.

מתאים ל

• בדיקת המודל בדפדפן

  שליחת שאלות קצרות באנגלית כדי לראות איך גרסה אפס נקודה שלוש של מיסטרל מתנסחת.

• ניסוי פרמטרים

  משחק עם ארבעת המחוונים בממשק כדי לראות איך שינוי הגדרות משפיע על פלט הטקסט.

• העתקת קוד הממשק

  שימוש בקוד המקור כשלד לבניית ממשק שיחה פשוט משלכם עם ספריית גרדיו.

איפה זה נופל

הבעיה המיידית היא שהחלל פשוט שבור ולא עובד כרגע בגלל שגיאת ריצה בהרצה. מעבר לזה, הקוד מכיל שאריות של טעינת מודלים זרים כמו מחולל תמונות, כך שקשה לדעת אם התשובות בכלל מגיעות ממיסטרל הנקי. מי שמחפש עברית איכותית או מענה אמין למשימות מורכבות יגלה שמודל בגודל שבעה ביליון פרמטרים מוגבל מאוד בתחום הזה מלכתחילה.

איך משתמשים

כדי להתחיל אתם נכנסים לדף, כותבים הודעה בתיבת הטקסט ולוחצים על שליחה. אין צורך בהתחברות מיוחדת או בהזנת מפתח אישי כדי לפתוח את הממשק.

בפועל שום דבר לא יקרה כרגע. האפליקציה נמצאת במצב שגיאת ריצה, ולכן היא לא תגיב להודעות שלכם. גם כשהיא פעילה, החומרה שמוגדרת לה היא מעבד בסיסי בלבד, כך שהתשובות תלויות לחלוטין במהירות ובזמינות של שרת הקצה של ה־API.

הרישיון

הקוד מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, שינוי והפצה כמעט בלי מגבלות. לגבי המידע שאתם מקלידים, הוא נשלח לשרתי ה־API של המודל לפי תנאי השירות הכלליים של האתר המארח.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗