Mistral-Devstral-API
רץ בדפדפןaiqcampרישיון לא דווח2025-01-19
ממשק שיחה פשוט שמתחבר למודל Devstral Small של מיסטרל וכולל אפשרות לחיפוש ברשת. מתאים למפתחים שרוצים לבדוק את יכולות המודל בלי להרים סביבה מקומית.
- —הורדות בחודש
- 122לייקים
מה זה
אתם מקלידים שאלה בתיבת הטקסט ומקבלים תשובה ישירות בחלון צ'אט. הממשק מבוסס על Gradio ומציג תיבת קלט פשוטה, כפתור שליחה, כפתור איפוס שיחה ותיבת סימון לחיפוש ברשת. בנוסף מופיעות דוגמאות מובנות להרצה מהירה בלחיצה אחת, שמאפשרות לבדוק שאלות נפוצות מיד עם הכניסה.
מאחורי הקלעים הקוד פונה למודל mistralai/Devstral-Small-2505 דרך לקוח תואם OpenAI, ומשתמש בקריאות רשת להבאת תוצאות חיפוש אם בחרתם לסמן את האפשרות הזו. התוצאות מוחזרות עם כותרת, קישור ותיאור קצר, ומוזנות ישירות לתוך ההקשר של השיחה כדי לעדכן את התשובות.
מתאים ל
- בדיקת Devstral בדפדפן
התנסות ביכולות המודל הקטן של מיסטרל ישירות בחלון צ'אט בלי להוריד משקלים.
- שאילתות עם חיפוש ברשת
קבלת תשובות המשלבות מקורות עדכניים מתוצאות חיפוש ברשת בלחיצת כפתור.
- בחינת ממשק Gradio
בדיקה מהירה של שילוב לקוח OpenAI יחד עם חיפוש רשת בתוך ממשק פייתון פשוט.
איפה זה נופל
ההדגמה תלויה לחלוטין במפתח API חיצוני ובשירותי רשת, כך שאם יש נפילה בחיבור החיצוני הממשק פשוט מפסיק להגיב. בנוסף, חומרת השרת היא מעבד בסיסי, מה שעלול להאט את עיבוד תוצאות החיפוש ברשת לפני שהן נשלחות למודל.
שאלות
נפוצות
האם השימוש בממשק עולה כסף?
הגישה לממשק באתר אינה דורשת תשלום. עם זאת, הקוד משתמש במפתח API, כך שתקינות ההרצה תלויה במכסות של יוצר המרחב.
מה קורה עם הטקסט שאני מקליד?
הטקסט מוצג בצ'אט ונשלח לשרתי ה־API של המודל ולשירות החיפוש ברשת. אין לשלוח נתונים פרטיים או קוד פנימי רגיש.
במה הממשק שונה מהרצת המודל לבד?
כאן לא מריצים את המשקלים של Devstral ישירות על החומרה שלכם, אלא פונים אליו דרך שירות חיצוני. הממשק חוסך הגדרות מקומיות אך תלוי בחיבור רשת.
האם אפשר להריץ את זה על המחשב שלי?
הקוד בנוי בספריית Gradio ומשתמש בסקריפט app.py יחיד. תוכלו להריץ אותו מקומית אם תתקינו את הספריות הנדרשות ותזינו מפתח API מתאים.
איך משתמשים
נכנסים לדף, מקלידים הודעה בתיבה, בוחרים אם לסמן חיפוש ברשת ולוחצים Send. הממשק רץ על חומרת מעבד בסיסית, אבל מאחר שהחישוב הכבד של המודל נעשה דרך API חיצוני, זמני התגובה תלויים בעיקר ברשת ובמהירות השירות של מיסטרל ולא במעבד המקומי.
הרישיון
הפרויקט לא כולל רישיון מוגדר, מה שאומר שאין הרשאה ברורה לשימוש מסחרי או להעתקת הקוד. המידע שאתם מזינים בשיחה נשלח לספק ה־API החיצוני, ולכן לא מומלץ להעלות לשם סיסמאות או מידע רגיש.