autogen-demos
רץ בדפדפןthinkallmit2023-10-12
הדגמת שיחה מבוססת מסמכים למפתחים שרוצים לבדוק סוכנים של מיקרוסופט. מזינים קובץ או קישור ומנהלים צ'אט מול המידע שחולץ.
- —הורדות בחודש
- 39לייקים
מה זה
הממשק מציג צ'אט מבוסס סוכנים ששואב מידע מתוך קבצים שתעלו או מכתובת רשת שתזינו ישירות לשדה הייעודי. אתם מספקים מפתח משלכם של OpenAI או Azure OpenAI, בוחרים דגם מתוך רשימה נפתחת שברירת המחדל שלה היא gpt-35-turbo, ומתחילים לשאול שאלות על החומרים שהזנתם.
מאחורי הקלעים הקוד משתמש בספריית AutoGen של מיקרוסופט, וספציפית בסוכנים מסוג RetrieveAssistantAgent ו־RetrieveUserProxyAgent. הוא נעזר ב־ChromaDB כדי לאנדקס את המידע, לפרק את הטקסטים לחלקים קטנים ולשלוף תשובות רלוונטיות לשאלות שלכם.
מתאים ל
- בדיקת שאילתות על מסמכים
מעלים קובץ טקסט ובודקים איך הסוכנים של AutoGen מחלצים ממנו תשובות ישירות.
- ניתוח תוכן מקישורי רשת
מזינים כתובת אינטרנט של מאמר ומתשאלים את המודל על התוכן בלי להעתיק ידנית.
- התנסות בסוכני AutoGen
מריצים את הקוד מקומית כדי לראות איך RetrieveAssistantAgent עובד מול ChromaDB.
איפה זה נופל
הבעיה הגדולה כרגע היא שההדגמה המקוונת בכלל לא עובדת ומוחזרת בה שגיאה. מעבר לכך, היא לא מספקת מפתחות משלה ודורשת מכם להזין קרדיטים של OpenAI או Azure ישירות לממשק. בנוסף, חומרת מעבד בסיסית עלולה להאט מאוד את תהליך האינדוקס אם תנסו להעלות קבצים כבדים.
שאלות
נפוצות
האם השירות פתוח לשימוש חינם?
הקוד עצמו חינמי לחלוטין ופתוח לכולם. עם זאת, השימוש מחייב הזנת מפתח API פרטי של OpenAI או Azure, כך שתשלמו על צריכת הטוקנים ישירות לספק שלכם.
למה הדף מציג שגיאה בדפדפן?
הספייס בהאגינג פייס נמצא כרגע בסטטוס של שגיאת ריצה ולא נטען כמו שצריך. הפתרון היחיד כרגע הוא להוריד את המאגר ולהריץ אותו באופן עצמאי על המחשב.
איך מריצים את האפליקציה מקומית?
אפשר למשוך את תמונת הדוקר שמופיעה בהוראות ולהריץ אותה על פורט 7860. לחלופין, אפשר להתקין את התלויות דרך pip ולהפעיל את קובץ app.py ישירות.
מה קורה לקבצים שאני מעלה?
הקבצים מעובדים מקומית על ידי ChromaDB ונשלחים כהקשר למודל השפה שהגדרתם. מאחר שאתם משתמשים במפתחות שלכם, המידע כפוף למדיניות הפרטיות של ספק ה־API.
איך משתמשים
נכון לעכשיו העמוד נמצא במצב של שגיאת ריצה, ולכן אי אפשר פשוט להיכנס לדפדפן ולהשתמש בו שם. כדי להפעיל אותו בעצמכם צריך להוריד את הקוד או להרים את תמונת הדוקר המוכנה בסביבה מקומית. בריצת דוקר מקומית פותחים את פורט 7860, מזינים את מפתחות ה־API המתאימים, מעלים קובץ דרך כפתור ההעלאה וכותבים שאלה בתיבת הטקסט. השרת בהאגינג פייס מוגדר על חומרת מעבד בסיסית בלבד.
הרישיון
הקוד מפורסם תחת רישיון MIT, מה שנותן לכם חופש מלא להשתמש בו, לשנות אותו ולהריץ אותו איפה שתרצו. לגבי המידע והקבצים שמעלים, הם נשלחים לשרתי המודלים לפי המפתחות שלכם, ולכן כדאי להיזהר עם מסמכים רגישים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש